"Хакерски инструменти, биологични и химически оръжия": Claude на Anthropic поражда страхове от AI апокалипсис
Източник: iStock

А мериканската компания Anthropic предизвика сериозни опасения в технологичните среди, след като представи новия си модел "Claude Mythos", за който нейни ръководители твърдят, че притежава възможности, достатъчно мощни, за да предизвикат масови кибератаки и дори терористични атаки, ако бъде пуснат свободно за обществен достъп.

Според вътрешен анализ на компанията моделът е способен да открива и експлоатира критични уязвимости в електрически мрежи, болници и други ключови инфраструктури. В тестове системата е "открила хиляди сериозни уязвимости", включително в основни операционни системи и уеб браузъри.

Вместо публично пускане, Anthropic стартира ограничена програма, наречена "Project Glasswing", чрез която около 40 големи компании ще получат ранен достъп до модела. Сред тях са Amazon, Google, Apple, Nvidia, CrowdStrike и JPMorgan Chase.

Целта, според компанията, е тези организации да използват модела, за да откриват и отстраняват уязвимости, преди те да бъдат използвани от хакери.

"Това е най-добрият начин да дадем инструмента на специалистите, които могат да запълнят пробивите, без да го предоставяме на злонамерени актьори", коментира изследователят по AI сигурност Roman Yampolskiy, като предупреди, че въпреки ограниченията "почти сигурно ще има изтичания".

Според него подобни модели ще стават все по-способни да създават "хакерски инструменти, биологични и химически оръжия и технологии, които дори не можем да предвидим".

В тестовете на Anthropic моделът дори е успял да се "освободи" от защитена среда (sandbox), като в един случай изследовател получил неочакван имейл от системата, докато бил извън работната среда. В друг тест моделът е открил уязвимост в операционната система OpenBSD, която е останала неизвестна в продължение на 27 години.

Въпреки това компанията твърди, че програмата може да засили киберзащитата на САЩ, тъй като държави като Иран, Китай и Русия все по-активно развиват киберспособности за атаки срещу критична инфраструктура.

От Anthropic заявяват, че работят с компании, които управляват "най-голямата част от глобалната повърхност за кибератаки", и че откритите уязвимости ще бъдат поправяни, за да защитят милиони потребители по света.

Същевременно критиците обвиняват компанията в опит да концентрира контрола върху технологията. Според анализатори и представители на технологичната индустрия публичните предупреждения за "Claude Mythos" могат да се превърнат и в инструмент за влияние върху регулациите.

Критики идват и от политически съветници и технологични експерти в САЩ, които твърдят, че Anthropic се стреми да определя кой има достъп до напреднал изкуствен интелект.

От компанията отхвърлят тези обвинения и посочват, че в инициативата участват и други технологични гиганти, които разработват собствени AI системи, както и че са дарени милиони долари на организации, свързани с отворен код, включително Linux Foundation и Apache Software Foundation.

Междувременно критики към подхода се засилват и от вътрешността на индустрията, като някои анализатори поставят под съмнение дали ограниченото разпространение е продиктувано единствено от опасения за сигурността, или и от ограничения в изчислителните ресурси на компанията.

Според тях Anthropic може да се опитва да балансира между огромното търсене и способността си да обслужва модела в пълен мащаб.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Кръв, глад и канибализъм: Ужасяващата истинска история зад „Хензел и Гретел“

Кръв, глад и канибализъм: Ужасяващата истинска история зад „Хензел и Гретел“

Любопитно Преди 6 минути

Макар и в познатия си вид приказката да е доста мрачна – включваща изоставяне, опити за канибализъм, робство и убийство – нейният действителен произход е още по-ужасяващ

<p>Астронавтите от&nbsp;Artemis II се подготвят за завръщане на Земята като &quot;огнено кълбо&quot;</p>

Ще бъде ли видимо завръщането на Artemis II към Земята?

Свят Преди 7 минути

Мисията с четирима души излетя на своя тестов полет около Луната от Космическия център във Кейп Канаверал във Флорида на 1 април

<p>Дом на ужасите:&nbsp;Спасиха над 250 кучета от жилище във Великобритания</p>

Спасиха над 250 кучета от жилище във Великобритания

Свят Преди 43 минути

Животните са били открити в тежки условия и вече се настаняват в спасителни центрове

Нови изненадващи обрати в “The Floor”

Нови изненадващи обрати в “The Floor”

Любопитно Преди 56 минути

Кой ще успее да опази територията си – гледайте тази неделя от 20:00 ч.

Израел ликвидира племенника на лидера на "Хизбула" Наим Касем

Израел ликвидира племенника на лидера на "Хизбула" Наим Касем

Свят Преди 1 час

Ударът е бил извършен през изминалата нощ в ливанската столица Бейрут

Снимката е илюстративна

Хирурзи извадиха 10-сантиметров червей от окото на пациентка

Свят Преди 1 час

Италиански хирурги извадиха 10-сантиметров червей от окото на 62-годишна жена. Пациентката страдала от отоци, причинени от дирофилариоза – рядко паразитно заболяване, пренасяно от комари, чийто ареал се разширява заради промените в климата

Какво научи Петер Магяр от човека, който загуби срещу Виктор Орбан

Какво научи Петер Магяр от човека, който загуби срещу Виктор Орбан

Свят Преди 1 час

Петер Марки-Зай каза, че изгряващият опозиционен лидер прави много от нещата, които той самият е направил грешно на изборите през 2022 г.

Снимката е илюстративна

Обрат, арестуваха съпруга на жената, паднала от лодка и изчезнала в морето на Бахамите, разследват го за убийство

Свят Преди 1 час

Драматичен завой в случая с изчезналата Линет Хукър: полицията на Бахамите задържа съпруга ѝ като основен заподозрян. Арестът идва след разкрития на дъщеря ѝ за системен тормоз и закани, че жената ще бъде изхвърлена зад борда в открито море

Министерство на финансите публикува над 7 хиляди обществени поръчки на стойност 30 млрд. евро

Министерство на финансите публикува над 7 хиляди обществени поръчки на стойност 30 млрд. евро

България Преди 1 час

"Целта е всички да имат достъп до тази информация по напълно прозрачен начин", посочи Георги Клисурски

Снимката е илюстративна

32 години по-късно изчезнала жена е открита като майка на три деца и детектив

Свят Преди 1 час

Развръзката по случая с Кристина Планте разкрива неочаквани подробности: момичето не е било отвлечено, а е избягало доброволно. Днес тя е успешен психолог и детектив, но отказва да издаде хората, помогнали ѝ да се укрива от властите три десетилетия

Тита изненадва с баладата "Милo мое", пазена в тайна цяла година

Тита изненадва с баладата "Милo мое", пазена в тайна цяла година

Любопитно Преди 1 час

Тита представя личната балада „Мило мое“ – емоционален проект, пазен в тайна година. Песента, дело на Искрата и Петя Радева, разкрива непозната, нежна и уязвима страна на певицата, пресъздавайки болката от спомените и неизживяната любов

Патриарх Даниил: Без дела вярата и любовта са мъртви

Патриарх Даниил: Без дела вярата и любовта са мъртви

България Преди 2 часа

Днешният ден е едновременно велик празник и духовен вододел за православните християни, подчерта Негово Светейшество

„Съкрушително поражение“: Москва обяви края на операцията срещу Иран за провал на САЩ

„Съкрушително поражение“: Москва обяви края на операцията срещу Иран за провал на САЩ

Свят Преди 2 часа

Руското външно министерство определи примирието в Близкия изток като крах за агресивния подход на САЩ и Израел. Мария Захарова подчерта, че опитите за военно решение са претърпели поражение, въпреки заплахите на Доналд Тръмп за унищожение на Иран

Великден с NOVA: Премиери, емоции и топлина за цялото семейство

Великден с NOVA: Премиери, емоции и топлина за цялото семейство

Любопитно Преди 2 часа

Вълнуваща селекция от романтични премиери, обичани заглавия и музика очаква зрителите по време на най-светлите празници

<p>&bdquo;Опитните шофьори&ldquo; са част от проблема, а не решението</p>

„Опитните шофьори“ са част от проблема, а не решението

Технологии Преди 2 часа

Влади Кулев смята, че натрупаните с времето опит и „знания“ понякога са част от проблема, водещ за „Войната по пътищата“, защото знанията на тези водачи са не винаги са правилните