- Проф. Мартин Вечев е избран от OpenAI сред водещи изследователи за усъвършенстване на AI воден знак.
- Технологията позволява специален детектор да установява AI произхода, вместо да гадае по стила на текста.
- До 2 декември 2026 г. AI съдържанието трябва да има машинно четимо маркиране.
ИТ гигантите ще слагат маркер в AI съдържанието
Основателят и научен директор на института INSAIT към Софийския университет - проф. Мартин Вечев е сред ограничен кръг водещи световни изследователи, избрани от OpenAI за изследването и усъвършенстването на нова технология за воден знак (watermarking) в текстове, генерирани от изкуствен интелект. Това съобщиха от Министерство на образованието и науката (МОН).
Технологията вгражда невидим статистически сигнал в начина, по който моделът генерира текст, посочват от министерството.
Специален детектор може впоследствие да провери дали текстът съдържа този сигнал.
За разлика от традиционните инструменти, които се опитват да преценят дали даден текст е написан от изкуствен интелект въз основа на неговия стил, тук идеята е да се открива вградена индикация за произхода на съдържанието, допълват оттам.
Развитието на технологията идва в момент, когато европейските правила за прозрачност на съдържанието вече влизат в практическо приложение. За съществуващите системи Европейският акт за изкуствения интелект предвижда преходен срок до 2 декември 2026 г. за изпълнение на изискванията за машинно четимо маркиране и откриване на генерирано съдържание с изкуствен интелект. Това поставя технологиите и механизмите за доказването му във фокуса на AI индустрията, посочват още от МОН.
Самият детектор за текст все още не е публично достъпен: компанията предоставя достъп на избрани изследователи, сред които проф. Вечев, за да проучат технологията и да помогнат за нейното усъвършенстване.
Припомняме, че по искане на европейските законодатели OpenAI започва внедряването на технологията textGrain. Първоначално тя ще бъде използвана в рамките на Европейския съюз (ЕС), но според OpenAI няма да се превърне в „глобален стандарт“. По-рано и Anthropic обяви въвеждането на подобни маркери, базирани на технологията SynthID на Google DeepMind. И двете компании предприеха тези стъпки в отговор на европейските регулации, насочени към повишаване на прозрачността при съдържание, генерирано от изкуствен интелект.
