"Хакерски инструменти, биологични и химически оръжия": Claude на Anthropic поражда страхове от AI апокалипсис
Източник: iStock

А мериканската компания Anthropic предизвика сериозни опасения в технологичните среди, след като представи новия си модел "Claude Mythos", за който нейни ръководители твърдят, че притежава възможности, достатъчно мощни, за да предизвикат масови кибератаки и дори терористични атаки, ако бъде пуснат свободно за обществен достъп.

Според вътрешен анализ на компанията моделът е способен да открива и експлоатира критични уязвимости в електрически мрежи, болници и други ключови инфраструктури. В тестове системата е "открила хиляди сериозни уязвимости", включително в основни операционни системи и уеб браузъри.

Вместо публично пускане, Anthropic стартира ограничена програма, наречена "Project Glasswing", чрез която около 40 големи компании ще получат ранен достъп до модела. Сред тях са Amazon, Google, Apple, Nvidia, CrowdStrike и JPMorgan Chase.

Целта, според компанията, е тези организации да използват модела, за да откриват и отстраняват уязвимости, преди те да бъдат използвани от хакери.

"Това е най-добрият начин да дадем инструмента на специалистите, които могат да запълнят пробивите, без да го предоставяме на злонамерени актьори", коментира изследователят по AI сигурност Roman Yampolskiy, като предупреди, че въпреки ограниченията "почти сигурно ще има изтичания".

Според него подобни модели ще стават все по-способни да създават "хакерски инструменти, биологични и химически оръжия и технологии, които дори не можем да предвидим".

В тестовете на Anthropic моделът дори е успял да се "освободи" от защитена среда (sandbox), като в един случай изследовател получил неочакван имейл от системата, докато бил извън работната среда. В друг тест моделът е открил уязвимост в операционната система OpenBSD, която е останала неизвестна в продължение на 27 години.

Въпреки това компанията твърди, че програмата може да засили киберзащитата на САЩ, тъй като държави като Иран, Китай и Русия все по-активно развиват киберспособности за атаки срещу критична инфраструктура.

От Anthropic заявяват, че работят с компании, които управляват "най-голямата част от глобалната повърхност за кибератаки", и че откритите уязвимости ще бъдат поправяни, за да защитят милиони потребители по света.

Същевременно критиците обвиняват компанията в опит да концентрира контрола върху технологията. Според анализатори и представители на технологичната индустрия публичните предупреждения за "Claude Mythos" могат да се превърнат и в инструмент за влияние върху регулациите.

Критики идват и от политически съветници и технологични експерти в САЩ, които твърдят, че Anthropic се стреми да определя кой има достъп до напреднал изкуствен интелект.

От компанията отхвърлят тези обвинения и посочват, че в инициативата участват и други технологични гиганти, които разработват собствени AI системи, както и че са дарени милиони долари на организации, свързани с отворен код, включително Linux Foundation и Apache Software Foundation.

Междувременно критики към подхода се засилват и от вътрешността на индустрията, като някои анализатори поставят под съмнение дали ограниченото разпространение е продиктувано единствено от опасения за сигурността, или и от ограничения в изчислителните ресурси на компанията.

Според тях Anthropic може да се опитва да балансира между огромното търсене и способността си да обслужва модела в пълен мащаб.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Йотова за КСНС: Разделение имаше само как да приключи войната в Украйна

Йотова за КСНС: Разделение имаше само как да приключи войната в Украйна

България Преди 1 час

Според Йотова липсата на дипломатическо решение увеличава риска от нова ескалация

Южна Корея отзовава посланика си в Украйна

Южна Корея отзовава посланика си в Украйна

Свят Преди 2 часа

Двете страни са в дипломатически спор

Демерджиев за източванията на НЗОК: Мащабът огромен

Демерджиев за източванията на НЗОК: Мащабът огромен

България Преди 2 часа

Демерджиев: Правим няколко разследвания

Принц Хари

Принц Хари с разтърсващи разкрития за живота с Меган в Канада

Любопитно Преди 2 часа

42-годишният херцог на Съсекс си спомня как преживял „срив на адреналина“ броени дни след пристигането си в Канада в края на 2019 г., след години живот в среда, която той описва като изпълнена със стрес

Личната карта в телефона: Какво ще може да правите с цифровия си портфейл

Личната карта в телефона: Какво ще може да правите с цифровия си портфейл

Парите ни Преди 2 часа

Фирмите, които са длъжни да го приемат, но откажат, рискуват глоби до 250 000 евро

Джордж Клуни

Джордж Клуни отваря италиански ресторант във Франция

Любопитно Преди 2 часа

Новият френски гражданин Джордж Клуни планира да отвори италиански ресторант в живописния регион Прованс. Актьорът влиза в кулинарния бизнес, където редица световни звезди преди него са претърпявали грандиозни и често комични провали

Бившият съпруг на Ружа Игнатова влиза в съда за 16 млн. евро

Бившият съпруг на Ружа Игнатова влиза в съда за 16 млн. евро

Свят Преди 2 часа

Прокуратурата твърди, че парите са достигнали до негови сметки през фирма, базирана в Хонконг

Прокуратурата поиска да върне в ареста бившия шеф на ВиК-Бургас

Прокуратурата поиска да върне в ареста бившия шеф на ВиК-Бургас

България Преди 2 часа

Има доказателства за влияние от страна на обвиняемия по отношение на свидетел

Тежка катастрофа с жертва край Каравелово

Тежка катастрофа с жертва край Каравелово

България Преди 3 часа

Автомобил навлязъл в лентата за насрещно движение и се ударил челно в микробус

Oсвободиха под гаранция шамана от Калоферско

Oсвободиха под гаранция шамана от Калоферско

България Преди 3 часа

Апелативният съд прецени, че няма опасност от извършване на престъпление и от укриване

Фронтменът на Imagine Dragons Дан Рейнолдс и актрисата Минка Кели се разделиха

Фронтменът на Imagine Dragons Дан Рейнолдс и актрисата Минка Кели се разделиха

Любопитно Преди 3 часа

Вокалистът на Imagine Dragons Дан Рейнолдс и актрисата Минка Кели сложиха край на връзката си след четири години заедно. Причините за раздялата остават неизвестни, като нито музикантът, нито звездата от „Friday Night Lights“ са коментирали официално

Муцунски: Ива Михайлова получава адекватно лечение

Муцунски: Ива Михайлова получава адекватно лечение

България Преди 3 часа

Муцунски: Нямаме никакъв проблем да покажем на медицинските представители от България, че Ива Михайлова получава адекватна грижа

Любов и братски пакости в „Спомени с вкус“

Любов и братски пакости в „Спомени с вкус“

Любопитно Преди 3 часа

Братята Гринго и Стоил се впускат в кулинарно приключение с Изи тази събота от 17:00 ч. по NOVA

Един месец след смъртта на Доли Партън: Отвориха музея на живота ѝ

Един месец след смъртта на Доли Партън: Отвориха музея на живота ѝ

Любопитно Преди 3 часа

Музикалната легенда сама е работила по проекта до последните си дни, а гласът ѝ съпровожда посетителите през целия им престой