OpenAI избра основателя на INSAIT да усъвършенства технологията за откриване на AI текстове

Основателят и научен директор на Института INSAIT към Софийския университет проф. Мартин Вечев е сред ограничен кръг водещи световни изследователи, избрани от OpenAI за изследването и усъвършенстването на нова технология за воден знак (watermarking) в текстове, генерирани от изкуствен интелект. Това съобщава Пресцентърът на МОН.

Технологията вгражда невидим статистически сигнал в начина, по който моделът генерира текст. Специален детектор може впоследствие да провери дали текстът съдържа този сигнал. За разлика от традиционните инструменти, които се опитват да преценят дали даден текст е написан от изкуствен интелект, въз основа на неговия стил, тук идеята е да се открива вградена индикация за произхода на съдържанието.

Развитието на технологията идва в момент, когато европейските правила за прозрачност на съдържанието вече влизат в практическо приложение. За съществуващите системи Европейският акт за изкуствения интелект предвижда преходен срок до 2 декември 2026 г. за изпълнение на изискванията за машинно четимо маркиране и откриване на генерирано с изкуствен интелект съдържание. Това поставя технологиите и механизмите за доказването му във фокуса на AI индустрията.

Самият детектор за текст все още не е публично достъпен: компанията предоставя достъп на избрани изследователи, сред които проф. Вечев, за да проучат технологията и да помогнат за нейното усъвършенстване.