Т ехнологичният свят е разтърсен от твърденията на водещата компания Anthropic за новия ѝ модел Claude Mythos. Според разработчиците инструментът превъзхожда хората в хакерски задачи, което принуди регулатори и финансови институции да обсъдят спешно рисковете за дигиталните услуги, съобщава BBC.
Какво представлява Claude Mythos?
Mythos е един от най-новите модели, разработени като част от по-широката система на Anthropic, наречена Claude. Той е директен конкурент на ChatGPT на OpenAI и Gemini на Google. Моделът беше представен в началото на април под името "Mythos Preview".
Специалистите по киберсигурност, които тестват устойчивостта на AI моделите (т.нар. „red-teams“), описват Mythos като „поразително способен в задачи, свързани с компютърната сигурност“. Изследователите откриха, че инструментът може да локализира „спящи“ грешки в кодове на десетилетия и лесно да ги експлоатира.
Вместо да го пусне за масова употреба, Anthropic даде достъп до него само на 12 технологични гиганта чрез инициативата Project Glasswing (Проект „Глазура“). Целта е да се подсигури най-критичният софтуер в света.
Сред партньорите са:
- Облачни и хардуерни гиганти: Amazon Web Services, Apple, Microsoft и Google.
- Производители на чипове: Nvidia и Broadcom.
- Киберсигурност: Crowdstrike (чиято софтуерна грешка предизвика глобален срив през юли 2024 г.).
Защо се появиха опасения?
От Anthropic твърдят, че при тестовете моделът е демонстрирал умения, които надминават човешките възможности. „Mythos Preview вече откри хиляди уязвимости с висока степен на опасност, включително в почти всяка голяма операционна система и уеб браузър“, заявиха от компанията на 7 април.
Инструментът е успял да открие критична уязвимост в стара система, която е била налична в продължение на 27 години, и да предложи начини за пробиването ѝ.
Тези способности предизвикаха тревога сред финансовите министри и централните банкери. По време на среща на Международния валутен фонд (МВФ) във Вашингтон темата е била широко обсъждана. Управителят на Bank of England, Андрю Бейли, коментира, че внимателно се проучва как тези иновации могат да променят риска от киберпрестъпления. ЕС също е започнал разговори с Anthropic по въпроса.
Какво казват експертите?
Сиаран Мартин, бивш ръководител на Националния център за киберсигурност на Обединеното кралство (NCSC), посочва два основни повода за притеснение:
Скоростта, с която Mythos открива критични слаби места.
Способността му да действа като „изключително добър хакер“ дори срещу известни слаби места, които организациите все още не са поправили.
Въпреки това, много независими анализатори остават скептични, тъй като все още не са имали възможност да тестват модела лично. Британският Институт за безопасност на AI заключи, че най-голямата заплаха от Mythos е насочена към лошо защитени системи, но е вероятно добре подсигурените мрежи да успеят да го спрат.
Трябва ли да се притесняваме?
Страховете от изкуствения интелект не са нещо ново. Често новите инструменти се придружават от гръмки обещания за революция, но маркетинговите стратегии в сектора често разчитат именно на микса от вълнение и страх.
В случая с Mythos все още не знаем достатъчно, за да кажем дали опасенията са оправдани, или са резултат от изкуствено раздуване на възможностите („хайп“). Според експертите от NCSC, най-важното е да не се изпада в паника, а да се наблегне на основите на киберсигурността. Повечето хакери не се нуждаят от супер AI, за да пробият системи, в които липсва базова защита.
„За някои това е апокалиптично събитие, за други – преувеличение“, казва Сиаран Мартин. Той подчертава, че независимо от рисковете, тези инструменти предоставят и възможност: „В средносрочен план можем да ги използваме, за да поправим фундаменталните уязвимости на интернет и да създадем по-безопасен онлайн свят.“
