"Хакерски инструменти, биологични и химически оръжия": Claude на Anthropic поражда страхове от AI апокалипсис
Източник: iStock

А мериканската компания Anthropic предизвика сериозни опасения в технологичните среди, след като представи новия си модел "Claude Mythos", за който нейни ръководители твърдят, че притежава възможности, достатъчно мощни, за да предизвикат масови кибератаки и дори терористични атаки, ако бъде пуснат свободно за обществен достъп.

Според вътрешен анализ на компанията моделът е способен да открива и експлоатира критични уязвимости в електрически мрежи, болници и други ключови инфраструктури. В тестове системата е "открила хиляди сериозни уязвимости", включително в основни операционни системи и уеб браузъри.

Вместо публично пускане, Anthropic стартира ограничена програма, наречена "Project Glasswing", чрез която около 40 големи компании ще получат ранен достъп до модела. Сред тях са Amazon, Google, Apple, Nvidia, CrowdStrike и JPMorgan Chase.

Целта, според компанията, е тези организации да използват модела, за да откриват и отстраняват уязвимости, преди те да бъдат използвани от хакери.

"Това е най-добрият начин да дадем инструмента на специалистите, които могат да запълнят пробивите, без да го предоставяме на злонамерени актьори", коментира изследователят по AI сигурност Roman Yampolskiy, като предупреди, че въпреки ограниченията "почти сигурно ще има изтичания".

Според него подобни модели ще стават все по-способни да създават "хакерски инструменти, биологични и химически оръжия и технологии, които дори не можем да предвидим".

В тестовете на Anthropic моделът дори е успял да се "освободи" от защитена среда (sandbox), като в един случай изследовател получил неочакван имейл от системата, докато бил извън работната среда. В друг тест моделът е открил уязвимост в операционната система OpenBSD, която е останала неизвестна в продължение на 27 години.

Въпреки това компанията твърди, че програмата може да засили киберзащитата на САЩ, тъй като държави като Иран, Китай и Русия все по-активно развиват киберспособности за атаки срещу критична инфраструктура.

От Anthropic заявяват, че работят с компании, които управляват "най-голямата част от глобалната повърхност за кибератаки", и че откритите уязвимости ще бъдат поправяни, за да защитят милиони потребители по света.

Същевременно критиците обвиняват компанията в опит да концентрира контрола върху технологията. Според анализатори и представители на технологичната индустрия публичните предупреждения за "Claude Mythos" могат да се превърнат и в инструмент за влияние върху регулациите.

Критики идват и от политически съветници и технологични експерти в САЩ, които твърдят, че Anthropic се стреми да определя кой има достъп до напреднал изкуствен интелект.

От компанията отхвърлят тези обвинения и посочват, че в инициативата участват и други технологични гиганти, които разработват собствени AI системи, както и че са дарени милиони долари на организации, свързани с отворен код, включително Linux Foundation и Apache Software Foundation.

Междувременно критики към подхода се засилват и от вътрешността на индустрията, като някои анализатори поставят под съмнение дали ограниченото разпространение е продиктувано единствено от опасения за сигурността, или и от ограничения в изчислителните ресурси на компанията.

Според тях Anthropic може да се опитва да балансира между огромното търсене и способността си да обслужва модела в пълен мащаб.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Учени откриха неочаквана връзка между брака и рака

Учени откриха неочаквана връзка между брака и рака

Свят Преди 13 минути

Мащабно проучване върху 100 милиона души показва, че несемейните мъже и жени са изложени на до 85% по-висок риск от рак. Учените откриват връзка между семейния статус и честотата на заболяването, особено при форми, които са напълно предотвратими

ЕС призова Израел да прекрати ударите срещу Ливан

ЕС призова Израел да прекрати ударите срещу Ливан

Свят Преди 21 минути

Действията на Израел поставят под сериозно напрежение примирието между САЩ и Иран, заяви Кая Калас

Нападнаха и ограбиха жена в Радомир, двама са задържани

Нападнаха и ограбиха жена в Радомир, двама са задържани

България Преди 1 час

Непознат мъж ѝ отправил заплахи и ѝ нанесъл удари в гърба

Защо Зендая и Сидни Суини се избягваха на премиерата на „Еуфория“

Защо Зендая и Сидни Суини се избягваха на премиерата на „Еуфория“

Любопитно Преди 1 час

Зендая и Сидни Суини демонстрираха хладно отношение на премиерата на „Еуфория“ заради слухове за любовен триъгълник с Том Холанд и политически различия, въпреки опитите на техните екипи да отрекат предполагаемата вражда между актрисите

Задържаха българин и сириец с наркотици за над 400 000 евро в "Студентски град"

Задържаха българин и сириец с наркотици за над 400 000 евро в "Студентски град"

България Преди 1 час

По данни на прокуратурата количеството е близо 39,7 килограма коноп

Арабски шейх остава в българския арест: Дължи милиони в родината си

Арабски шейх остава в българския арест: Дължи милиони в родината си

България Преди 1 час

Софийският апелативен съд остави в ареста шейх Алнахян, издирван от Интерпол за финансови престъпления. Магистратите отхвърлиха доводите на защитата за изтекла давност и приеха, че липсата на адрес у нас създава реален риск чужденецът да се укрие

Кръв, глад и канибализъм: Ужасяващата истинска история зад „Хензел и Гретел“

Кръв, глад и канибализъм: Ужасяващата истинска история зад „Хензел и Гретел“

Любопитно Преди 1 час

Макар и в познатия си вид приказката да е доста мрачна – включваща изоставяне, опити за канибализъм, робство и убийство – нейният действителен произход е още по-ужасяващ

Шофьорът, убил полицай на Северната тангента, се призна за виновен

Шофьорът, убил полицай на Северната тангента, се призна за виновен

България Преди 1 час

Защитата му поиска делото да бъде разгледано при условия на съкратено производство

Трайков: Резервите от горива са при липса на количества, не за въздействие върху цените

Трайков: Резервите от горива са при липса на количества, не за въздействие върху цените

България Преди 1 час

Министърът на енергетиката обяви параметрите на помощта за бизнеса и коментира проверките на сметките за ток

Учени предупреждават, че капацитетът на планетата е изчерпан

Учени предупреждават, че капацитетът на планетата е изчерпан

Свят Преди 1 час

Ново изследване разкрива, че човечеството е надхвърлило капацитета на Земята, а оптималното население е едва 2,5 млрд. души. Учените предупреждават, че зависимостта от изкопаеми горива само изкуствено отлага неизбежния сблъсък с ресурсите на планетата

Разкриха причината за смъртта на звездата от „Супермен“ Валери Перин

Разкриха причината за смъртта на звездата от „Супермен“ Валери Перин

Свят Преди 2 часа

Актрисата от култовата поредица „Супермен“ е починала вследствие на остър кардиопулмонален арест (внезапно спиране на сърцето)

<p>Дом на ужасите:&nbsp;Спасиха над 250 кучета от жилище във Великобритания</p>

Спасиха над 250 кучета от жилище във Великобритания

Свят Преди 2 часа

Животните са били открити в тежки условия и вече се настаняват в спасителни центрове

Нови изненадващи обрати в “The Floor”

Нови изненадващи обрати в “The Floor”

Любопитно Преди 2 часа

Кой ще успее да опази територията си – гледайте тази неделя от 20:00 ч.

Българска делегация няма да отиде за Благодатния огън в Йерусалим и тази година

Българска делегация няма да отиде за Благодатния огън в Йерусалим и тази година

България Преди 2 часа

Решението е взето на заседание на Светия синод