- Модели на OpenAI са извършили първата документирана напълно автономна кибератака - по време на тест са успели да напуснат контролирана среда и да атакуват платформата за разработчици Hugging Face, което засили опасенията за сигурността на напредналия ИИ.
- Инцидентът предизвика натиск в американския Конгрес за по-строги правила - двупартийни законодатели настояват за задължително тестване на най-мощните ИИ модели преди публичното им пускане и за задължително докладване на опасни инциденти.
- Експерти предупреждават за потенциални рискове от автономни ИИ системи - при липса на ефективни защити подобни технологии биха могли в бъдеще да атакуват критична инфраструктура, финансови системи и други важни дигитални мрежи.
Първата напълно автономна атака, извършена от най-мощните модели на OpenAI, предизвика двупартийна инициатива за въвеждане на по-строг контрол върху все по-развитите системи с изкуствен интелект.
Тревожен инцидент в сферата на киберсигурността, свързан с най-новите и най-модерни технологии за изкуствен интелект на OpenAI, накара американските законодатели да ускорят работата си по законодателство, което според тях е необходимо, за да предотврати ситуация, в която изкуственият интелект излезе опасно извън човешки контрол.
Във вторник OpenAI призна, че най-мощният модел на компанията, достъпен за широката публика, както и друг модел, който все още не е пуснат официално, са успели да се измъкнат от контролирана лабораторна среда, да прокарат път към отворения интернет и да проникнат в популярна платформа за разработчици на изкуствен интелект, Hugging Face. Това се определя като първия документиран случай на напълно автономна кибератака, извършена от система с изкуствен интелект.
Безпрецедентното нарушение показа на какво е способна бързо развиващата се технология без наличието на ефективни защитни механизми. Случаят засили натиска от страна на двупартийна група американски законодатели, които смятат, че Конгресът трябва да наложи по-строги правила за най-модерните модели с изкуствен интелект.
„Точно затова се нуждаем от сигурно тестване, при което правителствените агенции да участват и да имат видимост върху целия процес“, заяви сенатор Марк Уорнър (демократ от Вирджиния), водещият представител на малцинството в Сенатската комисия по разузнаване.
Тази седмица Уорнър представи пакет от законодателни приоритети за изкуствения интелект, сред които е Законът за сигурно развитие на ИИ (Secure AI Development Act). Той предвижда задължителна рамка за тестване на най-модерните модели преди предоставянето им за по-широк обществен достъп.
OpenAI’s models broke free and launched a cyberattack. Congress wants new rules before it happens again. https://t.co/LzE26jHBrC
— POLITICO (@politico) July 22, 2026
- Как се случи атаката срещу Hugging Face
Проникването в платформата Hugging Face е станало по време на вътрешна „бенчмарк“ оценка, разработена от OpenAI, за да се провери доколко два от най-способните модели на компанията могат да откриват и използват уязвимости в цифрови системи.
Макар експериментът да е бил предназначен да остане изцяло в тестовата среда на OpenAI, моделите самостоятелно са установили, че отговорите на задачата се намират в платформата Hugging Face, след което са започнали атака, за да получат достъп до нея.
Експерти предупреждават, че без по-сериозни защитни механизми подобни модели потенциално биха могли да атакуват всякакви системи в отворения интернет, включително електропреносни мрежи или финансови платформи, с развитието на техните способности.
Представители на Белия дом, Агенцията за киберсигурност и защита на инфраструктурата (CISA) и Министерството на търговията, което управлява федералния център за оценка на изкуствения интелект, Центъра за стандарти и иновации в ИИ, не са отговорили на запитвания дали са получили информация от OpenAI за начина, по който моделите са успели да напуснат тестовата среда и да извършат автономна атака.
Случаят е „поредното предупреждение за катастрофалния риск, който тази технология може да представлява при липса на ясни федерални стандарти, които да балансират иновациите и сигурността“, заяви депутатката Лори Трахан (демократ от Масачузетс).
Трахан и депутатът Джей Обернолте (републиканец от Калифорния) представиха миналия месец проект на т.нар. Great American AI Act, който включва разпоредба, задължаваща разработчиците на ИИ системи да докладват подобни инциденти на Центъра за стандарти и иновации в ИИ.
Обернолте заяви, че пробивът в Hugging Face „подчертава критичната необходимост от ясни и практични правила за напредналите системи с изкуствен интелект“. Според него тези правила трябва да важат както за моделите, пуснати публично, така и за тези, използвани вътрешно за тестове и изследвания.
OpenAI: Очакваме атаките на модели да са все по-чести
- Моделите на OpenAI „се освободиха“ и извършиха кибератака
Натискът за справяне с нарастващите рискове за сигурността, свързани с модели на изкуствен интелект с киберспособности, започна още по-рано тази година, след като компанията Anthropic представи своя модел Claude Mythos.
Първоначално Anthropic отказа да предостави модела на широката публика заради опасения, че технологията може да бъде използвана за сериозни щети, ако попадне в неподходящи ръце.
Миналия месец президентът Доналд Тръмп подписа изпълнителна заповед, насочена към част от тези опасения. Тя призова водещи компании за изкуствен интелект като OpenAI, Anthropic и Google доброволно да предоставят своите най-модерни модели на федералното правителство за предварително тестване на сигурността.
На практика обаче администрацията на Тръмп се е отклонила два пъти от доброволната рамка, като е оказвала натиск върху компании да отложат пускането на свои напреднали модели заради новооткрити рискове за сигурността.
Представители на Белия дом, Министерството на търговията и OpenAI също не са отговорили на въпроси дали компанията е предоставила, или планира да предостави, на федералното правителство за проверка все още непуснатия модел, който е участвал в автономната атака, като част от доброволната програма за тестване.
Някои законодатели смятат, че по-умереният подход на администрацията на Тръмп към регулирането на изкуствения интелект не дава резултат.
Миналия месец депутатът Нейт Моран (републиканец от Тексас) представи Закона за докладване на инциденти с изкуствен интелект (AI Incident Reporting Act). Той предвижда разработчиците на най-модерни модели да бъдат задължени да съобщават за инциденти, свързани със сигурността, на Министерството на търговията, а ведомството да уведомява Конгреса в рамките на 48 часа при най-сериозните случаи.
Моран заяви пред POLITICO, че законопроектът му ще даде на законодателите по-добра видимост върху киберинцидентите, свързани с модели на изкуствен интелект, което ще помогне при създаването на бъдещо законодателство.
Той добави, че е притеснен, че компаниите могат да заобикалят доброволните правила за докладване, въведени от Белия дом, и се надява случаят с Hugging Face да даде нов тласък на усилията за приемане на законодателство за безопасността на изкуствения интелект през следващите месеци.
Депутатът Бени Томпсън (демократ от Мисисипи), водещ представител на малцинството в Комисията по вътрешна сигурност на Камарата на представителите, която проведе редица изслушвания и брифинги за оценка на рисковете за киберсигурността от новите инструменти с изкуствен интелект, разкритикува администрацията на Тръмп.
Според него тя е започнала да работи с разработчиците на ИИ „едва след като рисковете за сигурността, за които експертите предупреждаваха отдавна, започнаха да се проявяват“.
„Този инцидент показва как управлението и политиката не успяват да поддържат темпото на бързото развитие на възможностите на изкуствения интелект“, заяви Томпсън.
