OpenAI избра българския учен проф. Мартин Вечев за ключова технология срещу AI фалшификатите

Нов воден знак в текстове от изкуствен интелект обещава по-сигурно разпознаване на произхода, докато ЕС подготвя задължителни правила за прозрачност до 2026 г.

Проф. Мартин Вечев, основател и научен директор на INSAIT към Софийския университет, е сред малък кръг водещи изследователи. Те са избрани от OpenAI да участват в разработването на нова технология. Тя цели да маркира текстове, генерирани от изкуствен интелект.

Информацията беше съобщена от Министерството на образованието. Според институцията проектът е насочен към по-надеждно откриване на AI съдържание. Темата става все по-спешна заради вълната от фалшиви публикации и подвеждащи текстове онлайн.

Как работи новият „воден знак“

Технологията вгражда невидим статистически сигнал в начина, по който моделът генерира текст. След това специален детектор може да провери дали текстът съдържа този сигнал.

Подходът се различава от масовите инструменти за разпознаване на AI текст. Те често разчитат на анализ на стил и вероятности. Това води до спорни резултати. Новата технология търси директна индикация за произхода.

Защо това е важно точно сега

Разработката идва в момент на затягащи се европейски правила. Европейският акт за изкуствения интелект поставя изисквания за прозрачност. Те включват машинно четимо маркиране и откриване на съдържание, генерирано с AI.

За съществуващите системи е предвиден преходен срок. Той е до 2 декември 2026 г. Това изтласква технологиите за доказване на произхода в центъра на AI индустрията.

Достъпът до детектора остава ограничен

Детекторът за текст все още не е публично достъпен. OpenAI дава достъп до него на избрани изследователи. Сред тях е и проф. Вечев.

Целта е тези експерти да тестват подхода и да помогнат за усъвършенстването му. Очакването е подобни механизми да станат важна част от борбата с подвеждащо съдържание. Те може да се използват и при бъдещи регулаторни проверки.

Още новини в категория Технологии

Последвайте ни в Telegram: https://t.me/p26news