"Хакерски инструменти, биологични и химически оръжия": Claude на Anthropic поражда страхове от AI апокалипсис
Източник: iStock

А мериканската компания Anthropic предизвика сериозни опасения в технологичните среди, след като представи новия си модел "Claude Mythos", за който нейни ръководители твърдят, че притежава възможности, достатъчно мощни, за да предизвикат масови кибератаки и дори терористични атаки, ако бъде пуснат свободно за обществен достъп.

Според вътрешен анализ на компанията моделът е способен да открива и експлоатира критични уязвимости в електрически мрежи, болници и други ключови инфраструктури. В тестове системата е "открила хиляди сериозни уязвимости", включително в основни операционни системи и уеб браузъри.

Вместо публично пускане, Anthropic стартира ограничена програма, наречена "Project Glasswing", чрез която около 40 големи компании ще получат ранен достъп до модела. Сред тях са Amazon, Google, Apple, Nvidia, CrowdStrike и JPMorgan Chase.

Целта, според компанията, е тези организации да използват модела, за да откриват и отстраняват уязвимости, преди те да бъдат използвани от хакери.

"Това е най-добрият начин да дадем инструмента на специалистите, които могат да запълнят пробивите, без да го предоставяме на злонамерени актьори", коментира изследователят по AI сигурност Roman Yampolskiy, като предупреди, че въпреки ограниченията "почти сигурно ще има изтичания".

Според него подобни модели ще стават все по-способни да създават "хакерски инструменти, биологични и химически оръжия и технологии, които дори не можем да предвидим".

В тестовете на Anthropic моделът дори е успял да се "освободи" от защитена среда (sandbox), като в един случай изследовател получил неочакван имейл от системата, докато бил извън работната среда. В друг тест моделът е открил уязвимост в операционната система OpenBSD, която е останала неизвестна в продължение на 27 години.

Въпреки това компанията твърди, че програмата може да засили киберзащитата на САЩ, тъй като държави като Иран, Китай и Русия все по-активно развиват киберспособности за атаки срещу критична инфраструктура.

От Anthropic заявяват, че работят с компании, които управляват "най-голямата част от глобалната повърхност за кибератаки", и че откритите уязвимости ще бъдат поправяни, за да защитят милиони потребители по света.

Същевременно критиците обвиняват компанията в опит да концентрира контрола върху технологията. Според анализатори и представители на технологичната индустрия публичните предупреждения за "Claude Mythos" могат да се превърнат и в инструмент за влияние върху регулациите.

Критики идват и от политически съветници и технологични експерти в САЩ, които твърдят, че Anthropic се стреми да определя кой има достъп до напреднал изкуствен интелект.

От компанията отхвърлят тези обвинения и посочват, че в инициативата участват и други технологични гиганти, които разработват собствени AI системи, както и че са дарени милиони долари на организации, свързани с отворен код, включително Linux Foundation и Apache Software Foundation.

Междувременно критики към подхода се засилват и от вътрешността на индустрията, като някои анализатори поставят под съмнение дали ограниченото разпространение е продиктувано единствено от опасения за сигурността, или и от ограничения в изчислителните ресурси на компанията.

Според тях Anthropic може да се опитва да балансира между огромното търсене и способността си да обслужва модела в пълен мащаб.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Рама: Няма да се меся на РС Македония за българите

Рама: Няма да се меся на РС Македония за българите

Свят Преди 1 час

Рама: Това са вътрешни въпроси на една държава

ДПС се присъедини към консервативното семейство в Парламентарната асамблея на НАТО

ДПС се присъедини към консервативното семейство в Парламентарната асамблея на НАТО

България Преди 1 час

Политическата група обединява десни и консервативни партии от държавите членки на Алианса

Израел и САЩ имат план при ескалация с Иран

Израел и САЩ имат план при ескалация с Иран

Свят Преди 3 часа

Нивото на военна готовност на Израел остава високо, но все още не е достигнало своя максимум

ЕС отхвърли проект на декларация за климатичните промени

ЕС отхвърли проект на декларация за климатичните промени

Свят Преди 4 часа

Причната е, че в документа не се споменават изрично изкопаемите горива

Русия съобщи, че е ударила кораб в Черно море

Русия съобщи, че е ударила кораб в Черно море

Свят Преди 5 часа

Москва твърди, че плавателният съд е превозвал товари с двойно предназначение за украинската армия. Съобщено е и за атаки по пристанищната инфраструктура в Килия и електрическа подстанция в Запорожие

Поразеният от дронове руски кораб „Спарта II“ продължава да гори в Балтийско море

Поразеният от дронове руски кораб „Спарта II“ продължава да гори в Балтийско море

Свят Преди 5 часа

Плавателният съд е под американски санкции и е собственост на компания, която обслужва руското Министерство на отбраната. Финландските военни смятат, че ударът вероятно е нанесен от Украйна

Най-малко 14 души са в неизвестност след руски удар с дронове край Киев

Най-малко 14 души са в неизвестност след руски удар с дронове край Киев

Свят Преди 5 часа

Част от пететажен жилищен блок се срути след руска атака с дронове, девет души са евакуирани, а двама са ранени

Пиян моторист без книжка блъсна три автомобила в Пловдив при гонка с полицията

Пиян моторист без книжка блъсна три автомобила в Пловдив при гонка с полицията

България Преди 5 часа

45-годишният мъж преминал на червено,отказал и тест за наркотици

<p>Загадката на 6-тонния Олтарен камък в Стоунхендж се задълбочава</p>

Загадката на 6-тонния Олтарен камък в Стоунхендж се задълбочава: Учени отхвърлиха водещи теории за произхода му

Свят Преди 6 часа

Ново мащабно проучване на геолози от Великобритания, Канада, Италия и Швеция стеснява търсенето в Североизточна Шотландия, но точната скала все още убягва

Патриарх Даниил за митрополит Гавриил: Беше пример за всички нас

Патриарх Даниил за митрополит Гавриил: Беше пример за всички нас

България Преди 6 часа

Главата на Българската православна църква изрази скръбта си от кончината на Ловчанския митрополит и припомни приноса му към църковния живот. Опелото и погребението ще бъдат във вторник, 24 ноември, в Ловеч

<p>Георги Господинов с ново международно отличие: Спечели наградата &bdquo;Жан Моне&ldquo;</p>

Георги Господинов получи престижната френска награда „Жан Моне“ за „Градинарят и смъртта“

Любопитно Преди 6 часа

Българският писател беше отличен за френското издание на книгата си. Журито я определи като „книга на светлината срещу черната дупка на смъртта“

Борисов: Заради ГЕРБ българите все още имат пари

Борисов: Заради ГЕРБ българите все още имат пари

България Преди 7 часа

Той коментира избора на новия състав на Висшия съдебен съвет, отношенията между управляващите и опозицията, еврозоната и рисковете за корабоплаването в Черно море

Почина режисьорът Николай Ламбрев-Михайловски

Почина режисьорът Николай Ламбрев-Михайловски

България Преди 7 часа

Той оставя след себе си над 130 театрални постановки, оперни и музикални спектакли, телевизионни и радиопроекти. Повече от две десетилетия беше част от творческия екип на Театър „Българска армия“

Ремонтираха опасната фуга на Околовръстното шосе в София

Ремонтираха опасната фуга на Околовръстното шосе в София

България Преди 8 часа

Тя беше дълбока над 50 сантиметра и широка повече от 20 сантиметра

Има ли френски войници в Украйна и какво правят там

Има ли френски войници в Украйна и какво правят там

Свят Преди 8 часа

Русия обвинява Франция, че участва пряко във войната в Украйна със свои войници

„Не бий, обичай!“: Мотористи на шествие в София срещу домашното насилие

„Не бий, обичай!“: Мотористи на шествие в София срещу домашното насилие

България Преди 9 часа

Кампанията „Домът е обич, не страх!“ премина през центъра на столицата по инициатива на омбудсмана Велислава Делчева и мотористи от цялата страна