Grok на Илон Мъск беше блокиран от Индонезия и Малайзия, първите страни, които направиха това, след като функцията за „цифрово събличане“ на инструмента с изкуствен интелект наводни интернет със снимки на жени и непълнолетни в манипулирани изображения с внушителен и неприличен характер, съобщава CNN.
Международният натиск върху Мъск да обуздае Grok нараства след вирусна тенденция, при която потребителите са поискали от инструмента с изкуствен интелект да генерира сексуално откровени дийпфейкове.
Grok е инструмент в платформата за социални медии X на Мъск, известна преди като Twitter.
Министърът на цифровите технологии на Индонезия Меутя Хафид заяви в събота, че забраната е с цел „да защити жените, децата и широката общественост от рисковете, свързани с фалшиво порнографско съдържание, генерирано с помощта на технология с изкуствен интелект“.
Малайзия обяви временна забрана в неделя след „многократната злоупотреба с Grok за генериране на неприлични, сексуално откровени, неприлични, грубо обидни и манипулирани изображения без съгласие, включително съдържание, включващо жени и непълнолетни“.
Индонезия и Малайзия са страни с мюсюлманско мнозинство със строги закони срещу порнографията.
CNN се свърза с компанията майка xAI за коментар.
Длъжностни лица в Обединеното кралство, Европейския съюз и Индия също изразиха загриженост относно предпазните огради на Грок.
Преди това Мъск и xAI заявиха, че се справят с проблема, като окончателно спират акаунти, които нарушават закона, и „работят с местните власти и правоохранителните органи“. Но отговорите на Грок на потребителски запитвания все още бяха залети от изображения, сексуализиращи жени.
Grok се възприема от много потребители като отклонение в сравнение с други масови модели на изкуствен интелект, тъй като позволява, а в някои случаи и насърчава, сексуално експлицитно съдържание и аватари-съпътстващи устройства.
Вълната в тенденцията за дигитално събличане започна в края на миналата година, когато много потребители откриха, че могат да тагнат Grok в X и да го накарат да манипулира изображения.
Потребителите са накарали чатбота да генерира изображения на хора в бикини, които позират със сугестивни образи, причинявайки страдание на стотици хиляди жени по целия свят.
Malaysia and Indonesia block Musk's Grok over sexually explicit deepfakes https://t.co/hazIY56sjq
— BBC News (World) (@BBCWorld) January 12, 2026
Изследователи от AI Forensics, европейска организация с нестопанска цел, която изследва алгоритми, анализираха над 20 000 произволни изображения, генерирани от Grok, и 50 000 потребителски заявки между 25 декември и 1 януари.
Изследователите са установили „висока разпространеност на термини, включително „нейната“, „слагам/премахвам“, „бикини“ и „дрехи“.“
Повече от половината от генерираните изображения на хора „съдържаха хора в минимално облекло, като бельо или бикини“.
Мъск се противопоставя на цензурата
Публично, Мъск отдавна се застъпва срещу „събудените“ модели на изкуствен интелект и това, което той нарича цензура.
Но милиардерът се е противопоставил на ограниченията за Грок във фирмата, каза пред CNN източник, запознат със ситуацията в xAI.
Екипът по безопасност на xAI, който вече беше малък в сравнение с конкурентите си, загуби няколко служители в седмиците преди скандала.
Мъск заяви, че всеки, който използва Grok за създаване на незаконно съдържание, ще се изправи пред последствия. Но той до голяма степен отхвърли опасенията относно сексуалното съдържание в приложението, твърдейки, че правителствата „просто искат да потиснат свободата на словото“ и отговаряйки на критиките с емоджита.
Миналата седмица Grok ограничи някои от функциите си за генериране на изображения до платени X абонати, но ограниченията се отнасят само за един от начините, по които потребителите взаимодействат с Grok.
Неабонатите все още могат да поискат от Grok да редактира изображения в приложението, а функциите за генериране на изображения и видеоклипове все още се предлагат безплатно чрез самостоятелния уебсайт и приложение.
Министърът на технологиите на Обединеното кралство Лиз Кендъл призова в петък за бързи действия за борба с фалшивите изображения.
„Сексуално манипулираните изображения на жени и деца са отвратителни и гнусни“, каза тя.
„Очаквам Ofcom да използва пълните законови правомощия, които Парламентът им е дал“, добави тя, визирайки независимия регулатор на комуникациите в Обединеното кралство.
