"Хакерски инструменти, биологични и химически оръжия": Claude на Anthropic поражда страхове от AI апокалипсис
Източник: iStock

А мериканската компания Anthropic предизвика сериозни опасения в технологичните среди, след като представи новия си модел "Claude Mythos", за който нейни ръководители твърдят, че притежава възможности, достатъчно мощни, за да предизвикат масови кибератаки и дори терористични атаки, ако бъде пуснат свободно за обществен достъп.

Според вътрешен анализ на компанията моделът е способен да открива и експлоатира критични уязвимости в електрически мрежи, болници и други ключови инфраструктури. В тестове системата е "открила хиляди сериозни уязвимости", включително в основни операционни системи и уеб браузъри.

Вместо публично пускане, Anthropic стартира ограничена програма, наречена "Project Glasswing", чрез която около 40 големи компании ще получат ранен достъп до модела. Сред тях са Amazon, Google, Apple, Nvidia, CrowdStrike и JPMorgan Chase.

Целта, според компанията, е тези организации да използват модела, за да откриват и отстраняват уязвимости, преди те да бъдат използвани от хакери.

"Това е най-добрият начин да дадем инструмента на специалистите, които могат да запълнят пробивите, без да го предоставяме на злонамерени актьори", коментира изследователят по AI сигурност Roman Yampolskiy, като предупреди, че въпреки ограниченията "почти сигурно ще има изтичания".

Според него подобни модели ще стават все по-способни да създават "хакерски инструменти, биологични и химически оръжия и технологии, които дори не можем да предвидим".

В тестовете на Anthropic моделът дори е успял да се "освободи" от защитена среда (sandbox), като в един случай изследовател получил неочакван имейл от системата, докато бил извън работната среда. В друг тест моделът е открил уязвимост в операционната система OpenBSD, която е останала неизвестна в продължение на 27 години.

Въпреки това компанията твърди, че програмата може да засили киберзащитата на САЩ, тъй като държави като Иран, Китай и Русия все по-активно развиват киберспособности за атаки срещу критична инфраструктура.

От Anthropic заявяват, че работят с компании, които управляват "най-голямата част от глобалната повърхност за кибератаки", и че откритите уязвимости ще бъдат поправяни, за да защитят милиони потребители по света.

Същевременно критиците обвиняват компанията в опит да концентрира контрола върху технологията. Според анализатори и представители на технологичната индустрия публичните предупреждения за "Claude Mythos" могат да се превърнат и в инструмент за влияние върху регулациите.

Критики идват и от политически съветници и технологични експерти в САЩ, които твърдят, че Anthropic се стреми да определя кой има достъп до напреднал изкуствен интелект.

От компанията отхвърлят тези обвинения и посочват, че в инициативата участват и други технологични гиганти, които разработват собствени AI системи, както и че са дарени милиони долари на организации, свързани с отворен код, включително Linux Foundation и Apache Software Foundation.

Междувременно критики към подхода се засилват и от вътрешността на индустрията, като някои анализатори поставят под съмнение дали ограниченото разпространение е продиктувано единствено от опасения за сигурността, или и от ограничения в изчислителните ресурси на компанията.

Според тях Anthropic може да се опитва да балансира между огромното търсене и способността си да обслужва модела в пълен мащаб.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Второ земетресение бе регистрирано в Япония в рамките на часове

Второ земетресение от 5,9 разтърси Япония, този път край Хокайдо

Свят Преди 51 минути

Сеизмичната активност в страната продължава, за момента няма опасност от цунами

Верижна катастрофа на АМ „Тракия“ край Стара Загора

Верижна катастрофа на АМ „Тракия“ край Стара Загора

България Преди 1 час

Четири автомобила се сблъскаха на 166-ия километър в посока София, движението в района остава нормално

Зеленски разкри подробности около разрива в отношения си с Михайло Федоров

Зеленски разкри подробности около разрива в отношения си с Михайло Федоров

Свят Преди 2 часа

Президентът разкри подробности около уволнението на военния министър, финансовия дефицит от 27 млрд. долара и намаляващите доставки на системи "Пейтриът"

Путин: Русия няма да се примири с неонацизма в Украйна

Путин: Русия няма да се примири с неонацизма в Украйна

Свят Преди 2 часа

Руският президент обвини Киев в героизация на нацистки фигури и засегна проблема с горивата в Русия

Бунт в център за мигранти край Серес; 35 души избягаха след сблъсъци с полицията

Бунт в център за мигранти край Серес; 35 души избягаха след сблъсъци с полицията

Свят Преди 2 часа

Властите са арестували 17 от избягалите, а мащабната операция по издирването на останалите продължава

Трагедията на Хейдън Пенетиър и „проклятието“ на сериала „Герои“

Трагедията на Хейдън Пенетиър и „проклятието“ на сериала „Герои“

Любопитно Преди 3 часа

Кончината на 36-годишната Хейдън Пенетиър отново насочи вниманието към съдбата на актьорския състав от хитовата драма от 2000-те години. Болести, токсичност на работното място, фалити и тежки разводи съпътстват звездите след края на сериала

Зеленски: Путин запазва намеренията си за офанзива към Киев и Чернигов

Зеленски: Путин запазва намеренията си за офанзива към Киев и Чернигов

Свят Преди 3 часа

Киев обяви готовност за преговори за прекратяване на ударите срещу енергийната и селскостопанската инфраструктура

11-годишно дете е с опасност за живота след падане с електрическа тротинетка край Берковица

11-годишно дете е с опасност за живота след падане с електрическа тротинетка край Берковица

България Преди 4 часа

Пострадалото момче е със счупен череп и е транспортирано по спешност в болница "Пирогов" в София

Иранският президент призна, че страната преминава през "много трудности"

Иранският президент призна, че страната преминава през "много трудности"

България Преди 4 часа

Иранското правителство продължава да е изправено пред протести и недоволство заради икономическата ситуация

Холивуд се сбогува с актриса от Gilmore Girls и La La Land

Холивуд се сбогува с актриса от Gilmore Girls и La La Land

Свят Преди 4 часа

Ливайн започва професионалната си актьорска кариера около 50-годишна възраст и участва в десетки сериали и филми

Скот Каан на 50: Филмите, сериалите и каузите на холивудската звезда

Скот Каан на 50: Филмите, сериалите и каузите на холивудската звезда

Любопитно Преди 5 часа

Синът на Джеймс Каан изгражда собствена кариера с роли в „Бандата на Оушън“ и „Хавай 5-0“

Украински дронове поразиха втори склад на „Озон“ в Русия

Украински дронове поразиха втори склад на „Озон“ в Русия

Свят Преди 5 часа

Над 300 души са евакуирани, а работата в логистичния център в Оренбургска област е спряна

Мъртва риба по поречието на река Одер в района на Брисков-Финкенхерд, Източна Германия

Тонове мъртва риба изплуваха в полски канал заради отровно водорасло

Свят Преди 5 часа

Рибата умира в Гливицкия канал, а властите спряха два шлюза, за да ограничат разпространението на водораслото

Володимир Зеленски

Володимир Зеленски: Русия планира да мобилизира още 300 000 души след септемврийските избори

Свят Преди 6 часа

Украинският президент смята, че Москва може да мобилизира още стотици хиляди мъже и през 2027 г.

Възстановено е движението на АМ "Тракия" в посока София

Възстановено е движението на АМ "Тракия" в посока София

Свят Преди 7 часа

Движението между 26-и и 27-и километър бе временно ограничено заради запалена растителност

КРС, Комисия за регулиране на съобщенията

Бившият шеф на КРС за заглушителя в „Драгалевци“: Само GPS сигналът е бил заглушен

България Преди 7 часа

Мобилните комуникации и Wi-Fi са работили нормално, докато GPS сигналът е бил смутен