"Хакерски инструменти, биологични и химически оръжия": Claude на Anthropic поражда страхове от AI апокалипсис
Източник: iStock

А мериканската компания Anthropic предизвика сериозни опасения в технологичните среди, след като представи новия си модел "Claude Mythos", за който нейни ръководители твърдят, че притежава възможности, достатъчно мощни, за да предизвикат масови кибератаки и дори терористични атаки, ако бъде пуснат свободно за обществен достъп.

Според вътрешен анализ на компанията моделът е способен да открива и експлоатира критични уязвимости в електрически мрежи, болници и други ключови инфраструктури. В тестове системата е "открила хиляди сериозни уязвимости", включително в основни операционни системи и уеб браузъри.

Вместо публично пускане, Anthropic стартира ограничена програма, наречена "Project Glasswing", чрез която около 40 големи компании ще получат ранен достъп до модела. Сред тях са Amazon, Google, Apple, Nvidia, CrowdStrike и JPMorgan Chase.

Целта, според компанията, е тези организации да използват модела, за да откриват и отстраняват уязвимости, преди те да бъдат използвани от хакери.

"Това е най-добрият начин да дадем инструмента на специалистите, които могат да запълнят пробивите, без да го предоставяме на злонамерени актьори", коментира изследователят по AI сигурност Roman Yampolskiy, като предупреди, че въпреки ограниченията "почти сигурно ще има изтичания".

Според него подобни модели ще стават все по-способни да създават "хакерски инструменти, биологични и химически оръжия и технологии, които дори не можем да предвидим".

В тестовете на Anthropic моделът дори е успял да се "освободи" от защитена среда (sandbox), като в един случай изследовател получил неочакван имейл от системата, докато бил извън работната среда. В друг тест моделът е открил уязвимост в операционната система OpenBSD, която е останала неизвестна в продължение на 27 години.

Въпреки това компанията твърди, че програмата може да засили киберзащитата на САЩ, тъй като държави като Иран, Китай и Русия все по-активно развиват киберспособности за атаки срещу критична инфраструктура.

От Anthropic заявяват, че работят с компании, които управляват "най-голямата част от глобалната повърхност за кибератаки", и че откритите уязвимости ще бъдат поправяни, за да защитят милиони потребители по света.

Същевременно критиците обвиняват компанията в опит да концентрира контрола върху технологията. Според анализатори и представители на технологичната индустрия публичните предупреждения за "Claude Mythos" могат да се превърнат и в инструмент за влияние върху регулациите.

Критики идват и от политически съветници и технологични експерти в САЩ, които твърдят, че Anthropic се стреми да определя кой има достъп до напреднал изкуствен интелект.

От компанията отхвърлят тези обвинения и посочват, че в инициативата участват и други технологични гиганти, които разработват собствени AI системи, както и че са дарени милиони долари на организации, свързани с отворен код, включително Linux Foundation и Apache Software Foundation.

Междувременно критики към подхода се засилват и от вътрешността на индустрията, като някои анализатори поставят под съмнение дали ограниченото разпространение е продиктувано единствено от опасения за сигурността, или и от ограничения в изчислителните ресурси на компанията.

Според тях Anthropic може да се опитва да балансира между огромното търсене и способността си да обслужва модела в пълен мащаб.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
<p>Ще оцелее ли отбранителното наследство на Макрон след края на мандата му?</p>

Повече ядрени оръжия, повече НАТО: Ще оцелее ли отбранителното наследство на Макрон след края на мандата му?

Свят Преди 23 минути

Последната среща на върха на НАТО за Макрон идва в момент, когато Франция е изправена пред финансови предизвикателства

Украйна продължава унищожаването на руското нефтопреработване

Украйна продължава унищожаването на руското нефтопреработване

Свят Преди 24 минути

През последните три месеца Украйна удари 25 руски петролни рафинерии и експортни терминали

<p>От &bdquo;еднорог&ldquo; до &bdquo;кентавър&ldquo;: Българската компания Payhawk влезе в още по-елитен световен клуб</p>

Българи стоят зад един от най-редките софтуерни успехи в света

Парите ни Преди 1 час

Payhawk достигна 100 млн. долара годишен повтаряем приход и вече е не само еднорог, а „кентавър“

НЗОК обсъди анализите на „Диагноза България“ със създателя на платформата

НЗОК обсъди анализите на „Диагноза България“ със създателя на платформата

България Преди 1 час

Срещата беше посветена на използваните източници, методологията и интерпретацията на публичните данни

Голям пожар край АМ „Струма“, гъст дим затруднява движението

Голям пожар край АМ „Струма“, гъст дим затруднява движението

България Преди 1 час

Огънят гори в района между селата Левуново и Генерал Тодоров, на място са изпратени няколко екипа пожарникари

19-годишен катастрофира при дрифт в Пазарджик, остана без книжка

19-годишен катастрофира при дрифт в Пазарджик, остана без книжка

България Преди 1 час

Младият шофьор се е ударил в паркиран автомобил, няма пострадали, но са нанесени материални щети

България се сбогува с Надежда Захариева: Поетесата, чиито думи останаха завинаги в сърцата ни

България се сбогува с Надежда Захариева: Поетесата, чиито думи останаха завинаги в сърцата ни

България Преди 1 час

Лили Иванова, Илияна Йотова и културният елит отдадоха почит на авторката на едни от най-обичаните български песни

„Благодаря ѝ за искреното приятелство“: Лили Иванова с трогателни думи за Надежда Захариева

„Благодаря ѝ за искреното приятелство“: Лили Иванова с трогателни думи за Надежда Захариева

България Преди 1 час

Примата изрази дълбоки съболезнования и си спомни за голямата любов между поетесата и Дамян Дамянов

<p>Мащабна проверка за незаконно строителство в район &bdquo;Връбница&ldquo;</p>

Столичната община с мащабна проверка за незаконно строителство в район „Връбница“

България Преди 1 час

Разследването обхваща не само широко коментирания случай с халетата край бул. „Европа“, но и редица други

НС прие окончателно промените в Закона за кредитните институции

НС прие окончателно промените в Закона за кредитните институции

България Преди 2 часа

Въвеждат се две европейски директиви, по едната от които ЕК е започнала процедура срещу България

„Гола и уплашена“: Потърпевши проговориха за хаоса с евакуацията в Ню Йорк денонощие по-късно

„Гола и уплашена“: Потърпевши проговориха за хаоса с евакуацията в Ню Йорк денонощие по-късно

Свят Преди 2 часа

Докато пожарникари са давали по 30 секунди за напускане на хотелите, болни нюйоркчани останаха без жизненоважни лекарства, а затворените бизнеси беснеят заради загубите

Голям пожар изпепели фабрика край Атина, има тежко пострадали

Голям пожар изпепели фабрика край Атина, има тежко пострадали

Свят Преди 2 часа

Огънят унищожи предприятие за рециклиране, а властите предупредиха за опасност от експлозия заради цистерна с пропан

,

Знак от съдбата? Откриха костите на крал, разбил викингите, точно преди мача Англия – Норвегия

Любопитно Преди 2 часа

Учен вярва, че е открил изгубените останки на легендарния крал Алфред Велики под асфалта на паркинг. Вижте как древната история се преплита с футбола дни преди ключовия мач между Англия и Норвегия на Световното

Новият ВСС: Изборите започват през октомври, гласуването ще е през ноември

Новият ВСС: Изборите започват през октомври, гласуването ще е през ноември

България Преди 3 часа

Прокурори, съдии и следователи ще избират представителите си поетапно, а парламентът ще попълва своята квота паралелно

<p>Заснеха кандидата за Сената на САЩ Кен Пакстън с&nbsp;любовницата&nbsp;му&nbsp;по улиците на Лондон</p>

Кой е Кен Пакстън и защо снимки с любовницата му предизвикаха скандал в САЩ

Свят Преди 3 часа

Републиканецът от Тексас е в оспорвана надпревара за място в Сената, докато минали скандали отново привличат внимание към кампанията му