OpenAI избра българския учен проф. Мартин Вечев за ключова технология срещу AI фалшификатите
Нов воден знак в текстове от изкуствен интелект обещава по-сигурно разпознаване на произхода, докато ЕС подготвя задължителни правила за прозрачност до 2026 г.
Проф. Мартин Вечев, основател и научен директор на INSAIT към Софийския университет, е сред малък кръг водещи изследователи. Те са избрани от OpenAI да участват в разработването на нова технология. Тя цели да маркира текстове, генерирани от изкуствен интелект.
Информацията беше съобщена от Министерството на образованието. Според институцията проектът е насочен към по-надеждно откриване на AI съдържание. Темата става все по-спешна заради вълната от фалшиви публикации и подвеждащи текстове онлайн.
Как работи новият „воден знак“
Технологията вгражда невидим статистически сигнал в начина, по който моделът генерира текст. След това специален детектор може да провери дали текстът съдържа този сигнал.
Подходът се различава от масовите инструменти за разпознаване на AI текст. Те често разчитат на анализ на стил и вероятности. Това води до спорни резултати. Новата технология търси директна индикация за произхода.
Защо това е важно точно сега
Разработката идва в момент на затягащи се европейски правила. Европейският акт за изкуствения интелект поставя изисквания за прозрачност. Те включват машинно четимо маркиране и откриване на съдържание, генерирано с AI.
За съществуващите системи е предвиден преходен срок. Той е до 2 декември 2026 г. Това изтласква технологиите за доказване на произхода в центъра на AI индустрията.
Достъпът до детектора остава ограничен
Детекторът за текст все още не е публично достъпен. OpenAI дава достъп до него на избрани изследователи. Сред тях е и проф. Вечев.
Целта е тези експерти да тестват подхода и да помогнат за усъвършенстването му. Очакването е подобни механизми да станат важна част от борбата с подвеждащо съдържание. Те може да се използват и при бъдещи регулаторни проверки.
Още новини в категория Технологии
Последвайте ни в Telegram: https://t.me/p26news
Големите технологични компании и правителствата инвестират милиарди в квантовите изчисления, докато балонът на изкуствения интелект се свива
За две години броят на сигналите за материали, генерирани с ИИ и изобразяващи сексуално насилие над деца, е нараснал с 8400%
РАЗСЛЕДВАНЕ
Стана ясно кой е 25-годишният шофьор, пострадал при тежката катастрофа край Делфинариума във Варна (ВИДЕО+СНИМКИ)
БЪЛГАРИЯ
ВОЙНА В efbet: Братята Цветомир и Боян Найденови се оказаха един срещу друг в тежък конфликт
РАЗСЛЕДВАНЕ
Стана ясно кой е граничарят зад волана при смъртта на Милена в Драгоман (СНИМКИ)
РАЗСЛЕДВАНЕ
Арестуваха двама полицаи в София за корупция, откриха наркотици в домовете им
РАЗСЛЕДВАНЕ
Боре Канадеца, Венелин Ташев и сянката на големите връзки: Кой и как печели битките по Южното Черноморие?
БЪЛГАРИЯ
(ВИДЕО) Галактическият интелект на Бойко Борисов: „Мраз“ приватизиран с пари от бъдещето
КУЛТУРА
Николай Петев и парадоксът на българската духовна памет: Българският писател влезе в изпитната програма на гръцки училища
СВЯТ
(ВИДЕО) Отново „рептил“ на политическа сцена? Странните очи на мъж зад Зохран Мамдани взривиха мрежата
БЪЛГАРИЯ
Почина Ловчанският митрополит Гавриил
БЪЛГАРИЯ
Велислава Петрова договори нови икономически перспективи с Индия – стокообменът скочи с 55%

