Е вропейската комисия започна официално да разследва Х на Илон Мъск заради генерирането на сексуално експлицитни изображения и разпространението на материали за потенциално сексуално насилие над деца чрез функцията за AI чатбот на платформата Grok, предаде The Guardian.
Официалното разследване, стартирано в понеделник, 26 януари, разширява проверката и върху системите за препоръки на X – алгоритми, които помагат на потребителите да откриват ново съдържание.
Grok предизвика международно възмущение, като позволи на потребителите да генерират изображения на жени и деца, които са дигитално съблечени, и да ги поставят в провокативни пози. Изкуственият интелект Grok генерира около 3 милиона сексуални изображения за по-малко от две седмици, включително 23 000, които изглежда, че изобразяват деца, според изследователи от Центъра за борба с дигиталната омраза.
Комисията заяви, че новото ѝ разследване ще „оцени дали компанията правилно е оценила и намалила рисковете“, произтичащи от функционалностите на Grok в ЕС, включително рисковете от споделяне на незаконно съдържание като манипулирани сексуално експлицитни изображения и „съдържание, което би могло да представлява“ материали за сексуално насилие над деца.
Разследването се провежда съгласно Закона за цифровите услуги на ЕС (DSA), сравнително ново законодателство, което има за цел да защитава интернет потребителите от широк спектър от вреди.
В разговор с репортери служител заяви, че Комисията не е била убедена от мерките за смекчаване на риска, предприети от X за отстраняване на проблема. Служители на ЕС разследват дали X разполага с адекватни системи за смекчаване на рисковете.
Обявявайки разследването, Хена Виркунен, висшият служител на Комисията, отговарящ за въпросите на технологичния суверенитет, сигурността и демокрацията, заяви: „ Deepfake сексуални изображения на жени и деца без тяхно съгласие са насилствена, неприемлива форма на унижение. С това разследване ще установим дали X е изпълнила своите правни задължения съгласно DSA, или дали е третирала правата на европейските граждани – включително тези на жените и децата – като съпътстващи щети в рамките на своята услуга.“
Реджина Дохърти, ирландски евродепутат, заяви, че приветства официалното разследване. „Когато се появяват достоверни доклади за използване на AI системи по начини, които вредят на жени и деца, е от съществено значение законодателството на ЕС да бъде прегледано и приложено без забавяне“, каза Дохърти.
В отговор на разследването, X предостави връзка към изявление, което публикува на 14 януари: „Оставаме ангажирани да направим X безопасна платформа за всички и продължаваме да имаме нулева толерантност към всякакви форми на сексуална експлоатация на деца, съдържание с голота без съгласие и нежелано сексуално съдържание.“
