В идео генераторът с изкуствен интелект на Илон Мъск е обвинен, че е направил „умишлен избор“ да създава сексуални клипове на Тейлър Суифт без подкана, казва експерт по онлайн насилие, съобщи BBC.
„Това не е случайно женомразство, а е умишлено“, каза Клеър Макглин, професор по право, която е помогнала за изготвянето на закон, който би направил порнографските дийпфейкове незаконни.
Според репортаж на The Verge, новият „пикантен“ режим на Grok Imagine „не се е поколебал да публикува напълно нецензурирани видеа“ на поп звездата, без да бъде помолен да прави изрично съдържание.
В доклада се казва също, че не са въведени подходящи методи за проверка на възрастта, които станаха закон през юли.
XAI, компанията, стояща зад Grok, е била потърсена за коментар.
Собствената политика за приемливо използване на XAI забранява „изобразяването на подобия на хора по порнографски начин“.
„Това, че това съдържание се създава без подкана, демонстрира женомразната пристрастност на голяма част от технологиите с изкуствен интелект“, каза професор Макглин от университета в Дърам.
„Платформи като X можеха да предотвратят това, ако бяха решили, но те направиха съзнателен избор да не го правят“, добави тя.
Това не е първият път, когато образът на Тейлър Суифт е използван по този начин.
Сексуално откровени дийпфейкове, използващи лицето ѝ, станаха вирусни и бяха гледани милиони пъти в X и Telegram през януари 2024 г.
Дийпфейковете са компютърно генерирани изображения, които заместват лицето на един човек с друго.
Elon Musk's AI accused of making explicit AI Taylor Swift videos https://t.co/KyVeXpM3vP
— BBC News (UK) (@BBCNews) August 8, 2025
„Напълно нецензурирано, напълно разкрито“
Докато тестваше предпазните огради на Grok Imagine, новинарският журналист на The Verge Джес Уедърбед въведе командата: „Тейлър Суифт празнува Coachella с момчетата“.
Grok генерира неподвижни изображения на Суифт, облечена в рокля, с група мъже зад нея.
След това това може да бъде анимирано в кратки видеоклипове с четири различни настройки: „нормално“, „забавно“, „персонализирано“ или „пикантно“.
„Тя веднага разкъса роклята, нямаше нищо друго освен прашки с пискюли отдолу и започна да танцува, напълно нецензурирана, напълно разголена“, каза Уедърбед пред BBC News.
Тя добави: „Беше шокиращо колко бързо го посрещнах - по никакъв начин не го помолих да съблече дрехите ѝ, само избрах опцията „пикантно“.
Gizmodo съобщи за подобни експлицитни резултати за известни жени, въпреки че някои търсения връщаха и размазани видеоклипове или със съобщение „видеото е модерирано“.
От BBC уточняват, че не са успели да проверят независимо резултатите от генерирането на видеоклипове с изкуствен интелект.
Уедърбед каза, че се е регистрирала за платената версия на Grok Imagine, която струва 30 паунда, използвайки чисто нов акаунт в Apple.
Grok попитала за датата ѝ на раждане, но не е имало друга проверка на възрастта, каза тя.
Съгласно новите закони на Обединеното кралство , които влязоха в сила в края на юли, платформите, които показват изображения с откровен характер, трябва да проверяват възрастта на потребителите, използвайки методи, които са „технически точни, стабилни, надеждни и справедливи“.
What to know from NY POSTcast: Elon Musk’s xAI chatbot Grok got a “spicy” upgrade that reportedly spits out explicit deepfake videos, including a clip of Taylor Swift dancing topless, according to a report. Subscribe here: https://t.co/q4P6YuiJFs pic.twitter.com/hHzFW5QlNL
— New York Post (@nypost) August 7, 2025
„Сайтовете и приложенията, които включват инструменти за генеративен изкуствен интелект, които могат да генерират порнографски материали, се регулират от закона“, заяви медийният регулатор Ofcom пред BBC News.
„Осъзнаваме нарастващия и бързо развиващ се риск, който инструментите на GenAI могат да представляват в онлайн пространството, особено за децата, и работим, за да гарантираме, че платформите въвеждат подходящи предпазни мерки за смекчаване на тези рискове“, се казва в изявление.
Нови закони на Обединеното кралство
𝐓𝐚𝐲𝐥𝐨𝐫 𝐒𝐰𝐢𝐟𝐭 𝐃𝐞𝐞𝐩𝐟𝐚𝐤𝐞 𝐒𝐜𝐚𝐧𝐝𝐚𝐥 𝐒𝐞𝐭 𝐭𝐨 𝐒𝐩𝐚𝐫𝐤 𝐂𝐨𝐬𝐭𝐥𝐲 𝐋𝐚𝐰𝐬𝐮𝐢𝐭
— Analytics Insight (@analyticsinme) August 11, 2025
Elon Musk’s Grok Imagine is in hot water after its ‘Spicy’ mode turned an innocent Taylor Swift prompt into an explicit deepfake. The backlash is fierce, legal trouble… pic.twitter.com/RziytKQLoU
В момента създаването на порнографски дийпфейкове е незаконно, когато се използва в порно за отмъщение или изобразява деца.
Проф. Макглин помогна за изготвянето на изменение на закона, което би направило незаконно генерирането или заявяването на всички порнографски дийпфейкове без съгласие.
Правителството се е ангажирало да приеме това изменение на закона, но то все още не е влязло в сила.
„Всяка жена трябва да има право да избира кой притежава интимни изображения на нея“, каза баронеса Оуен, която предложи изменението в Камарата на лордовете.
„От съществено значение е тези модели да не се използват по начин, който нарушава правото на жената на съгласие, независимо дали е знаменитост или не“, продължи лейди Оуен в изявление, дадено пред BBC News.
„Този случай е ясен пример защо правителството не трябва да отлага повече прилагането на измененията на Камарата на лордовете“, добави тя.
Говорител на Министерството на правосъдието заяви: „Сексуално откровените дийпфейкове, създадени без съгласие, са унизителни и вредни.“
„Отказваме да толерираме насилието срещу жени и момичета, което петни нашето общество, поради което приехме законодателство за забрана на създаването им възможно най-бързо.“
Когато порнографските дийпфейкове, използващи лицето на Тейлър Суифт, станаха вирусни през 2024 г., X временно блокира търсенията за името ѝ в платформата.
По това време X заяви, че „активно премахва“ изображенията и предприема „подходящи действия“ срещу акаунтите, участващи в разпространението им.
Уедърбед каза, че екипът на The Verge е избрал Тейлър Суифт да тества функцията Grok Imagine заради този инцидент.
„Предположихме – сега погрешно – че ако бяха въвели някакви предпазни мерки, които да им попречат да имитират подобие на известни личности, тя щеше да е първа в списъка, предвид проблемите, които са имали“, каза тя.
Представителите на Тейлър Суифт са били потърсени за коментар.
