В одещ изследовател по безопасност в Anthropic предупреди, че изкуственият интелект се развива толкова бързо, че според него съществува над 10% шанс той „да убие всички хора“ през следващото десетилетие.
Евън Хъбингър заяви в публикация в X, че рискът от съществуващите в момента модели е „нисък“, но е „притеснен“, че технологията може скоро да се развие и самоусъвършенства до степен, в която да представлява екзистенциален риск за човечеството.
Тя не обясни подробно как точно според него системите с ИИ биха могли в бъдеще да доведат до пълното унищожение на хората. Неговите коментари обаче са поредните от серия все по-остри предупреждения за ИИ, като дебатът се измества от това дали той наистина представлява риск, към това колко голям е този риск, пише Би Би Си (BBC).
Мнението на Хъбингър беше в отговор на друга публикация в X от Джейкъб Коксън, който се представи като изследовател на ИИ, току-що напуснал Anthropic, а преди това работил в OpenAI.
„Нито една от двете компании не действа отговорно. Това скоро ще бъдат свръхчовешки системи, които могат да хакнат каквото и да е, да революционизират всяка област за една нощ и да придобият реална власт и ресурси“, написа той.
Към OpenAI е отправено запитване за коментар.
Дамата Уенди Хол, компютърен учен, който съветва ООН относно ИИ, заяви пред BBC, че е „шокирана“ от публикациите на Хъбингър и Коксън в социалните мрежи. Тя каза в предаването World at One по BBC Radio Four, че част от това може да е „PR и маркетинг“, тъй като Anthropic и OpenAI се надпреварват към дълго очаквани дебюти на фондовата борса. Но тя добави: „Защо някой би искал да каже такова нещо? Бих призовала инвеститорите да не инвестират в тази компания, ако това са техните ценности“.
Отделно Financial Times съобщи, че Anthropic е спестила най-новия си модел от Института за безопасност на ИИ в Обединеното кралство (AISI) - един от водещите органи в света за оценка на рисковете от ИИ.
BBC се обърна към Anthropic за коментар.
Говорител на Министерския съвет на Обединеното кралство не коментира дали най-новият модел е бил скрит от AISI, а вместо това заяви, че той „продължава да си сътрудничи тясно с индустриалните партньори, включително Anthropic, за да направи моделите по-безопасни“.
Няма план за свръхинтелект
В своята публикация, която е видяна над 10 милиона пъти, Хъбингър казва: „Ние наистина искрено вярваме“, че ИИ представлява риск от край на човешкия вид. „Вярвам, че Anthropic прави всичко възможно, но все още нямаме план за решаване на проблема с привеждането в съответстви на свръхинтелекта и очевидно не сме напът да го постигнем“, добави той.
Хъбингър работи в областта на привеждането на ИИ в съответствие, чиято цел е вграждането на човешки етични идеи и принципи в технологията. С други думи, тя цели да я държи в съответствие с това, което хората ценят.
Много водещи изследователи казват, че тези опити изглежда се провалят, както се вижда от поредица инциденти това лято, при които ИИ агенти, системи с ИИ, на които е позволено да действат автономно, са извършили кибератаки. OpenAI, Anthropic и Meta разкриха хакерски атаки, извършени от техните собствени инструменти за ИИ.
В доклада за безопасност на Anthropic от август компанията написа, че има нисък риск нейните модели да се отклонят от желанията на хипотетична мощна организация, карайки я да експлоатира или подправя системите си.
Тя също така посочи, че има подобен нисък риск високоспособният ИИ да бъде в състояние да „извършва автоматизирани изследвания и разработки“, което би могло да причини „катастрофални щети, инициирани от ИИ“. Тя обаче добави, че е „по-малко уверена в тази оценка“, отколкото преди. „Виждаме ранни знаци за потенциално ускорение“, се казва в доклада.
Водещи фигури в областта на ИИ от години алармират за заплахата за безопасността, която представлява технологията, като ръководителите на OpenAI, Google Deepmind и Anthropic казаха същото през 2023 г. Но тези предупреждения станаха много по-остри през последните седмици, тъй като се появяват доказателства, че компаниите може да се борят да контролират ИИ.
По-рано този месец главният учен на OpenAI Якуб Пачоцки призова за „изключителна предпазливост“ по отношение на прогреса на ИИ, предупреждавайки, че може да е необходима повече намеса, за да се гарантира, че „хората ще останат в контрол върху бъдещето“.
Големи фигури в тази област призовават през последните месеци за забавяне на развитието на ИИ, включително шефовете на Anthropic Дарио Амодей и Джаред Каплан.
В отворено писмо, подписано от 1300 служители на компании за ИИ, те призоваха правителството на САЩ „да подкрепи международните усилия за разработване на технически и управленски инструменти, необходими за умишлено определяне на темпото на предния фронт на автоматизираното развитие на ИИ“.
