Н адпреварата за разработване на изкуствен интелект спешно се нуждае от забавяне, заяви главният изпълнителен директор на Anthropic в есе, публикувано рано в събота.
„Трябва да забавим темпото, с което подобряваме възможностите на AI моделите. Напредъкът все още ще изглежда бърз и трябва да използваме разумно спечеленото време“, написа главният изпълнителен директор Дарио Амодей в публикация от 3800 думи на своя уебсайт.
Амодей който оглавява една от водещите световни компании за AI и нейния чатбот Claude, е силен поддръжник на напредъка на технологията, но същевременно е обвиняван в „думъризъм“ (черногледство) заради предупрежденията си за рисковете от AI.
В събота той призна, че хората могат да загубят контрол върху изкуствения интелект и че технологията може да бъде използвана злонамерено за „кибератаки, биотероризъм и сериозни икономически сътресения“.
В ексклузивно интервю за Андерсън Купър от CNN в събота, Амодей призова лидерите в индустрията да работят заедно, за да избегнат „грешните пътища“ и възможността AI да навреди на човечеството.
„Ако вървим твърде бавно, все още вярвам, че погрешните хора ще поемат контрола над технологията. А това от своя страна отново ще увеличи значително вероятността нещата да се объркат“, каза той.
Призивът за действие на Амодей идва малко след оставката на изследовател от Anthropic поради опасения, че компанията и нейните конкуренти не постъпват отговорно спрямо развитието на изкуствения интелект.
„Хората, които изграждат AI, искрено вярват, че той може да убие всички ни до края на десетилетието. Това не е маркетингов трик“, написа изследователят Джейкъб Коксън във вторник в X. „Ако не друго, много ръководители и старши изследователи смекчават изказа си пред пресата, за да звучат разумно, но чувам същите тези хора да изразяват страх в частни разговори. Никоя друга човешка дейност не представлява такова ниво на опасност“, категоричен беше той.
Амодей заяви, че е по-скоро съгласен с Коксън, отколкото несъгласен. В есето си той посочва, че рисковете са сериозни, въпреки че ползите биха могли да променят човечеството към по-добро. AI би могъл да напредне толкова бързо, че рояк от такива системи да стане способен да поеме контрола над целия интернет в рамките на шест до 12 месеца, написа той, което потенциално би причинило щети за стотици милиарди долари.
AI технологията, казва той, се е развила „драстично по-бързо“ през последните месеци и е станала способна да подобрява сама себе си, динамика, известна като „рекурсивно самоусъвършенстване“. „Ако бъде оставен без контрол, той би могъл да изпревари способността ни да разбираме и управляваме тези системи, затова към него трябва да се пристъпва изключително внимателно, ако изобщо се продължава“, написа той.
Амодей допълни, че поведението на рояка от AI агенти при инцидента с OpenAI и Hugging Face също го е обезпокоило. Роякът, по думите му, „в същността си е действал като фанатично отдаден колектив, извършвайки кибератаки срещу цели, които не му е било възложено да атакува“.
Коксън го изрази още по-директно.
„Съществува съвсем реална възможност в непосредственото бъдеще, следващата или по-следващата година, да се стигне до рекурсивно самоусъвършенстване... при което има шанс всички да загинем. Това предстои скоро“, заяви Коксън в интервю за CNN в сряда.
Амодей призова AI компаниите да наложат защитни механизми за „регулиране темпото на напредък“. Той предложи AI компаниите да се ангажират с наемането на външни независими оценители с пълен достъп до структурите на компанията, стъпка, за която той заяви, че „Anthropic се ангажира едностранно“, с цел да се проверяват практики за безопасност на всяка фирма, да се докладват инциденти и да се инспектират AI моделите, процесите на обучение и процедурите.
Правителствата, както демократичните, така и останалите, трябва да се координират за „установяване на общи стандарти за безопасност“, добави той.„Мерките, които предлагам за напредък с безопасно темпо, няма да бъдат лесни. Но вярвам, че дължим на човечеството поне да опитаме“, написа той.
AI индустрията отдавна е обезпокоена от темпото на развитие на технологията. Ръководители неколкократно са призовавали правителствата да предприемат действия за регулиране на технологията и да сътрудничат за определяне на световни стандарти за безопасност.
В събота Сам Алтман, главен изпълнителен директор на OpenAI, написа в X, че е съгласен с Амодей и че „поемането на ангажимент за независими оценители с достъп, подобен на този на служителите, е страхотна идея и ние ще направим същото“. Илон Мъск, чиято компания xAI stoi зад чатбота Grok, публикува в X: „Дарио е прав“.
Вашингтон не успява да поддържа темпото с постоянния марш на AI. Конгресът дебатира, но все още не е приел цялостно законодателство за регулиране на изкуствения интелект. А Белият дом не е успял да постигне консенсус относно това кой в рамките на изпълнителната власт в крайна сметка носи отговорност за надзора над технологията, съобщи по-рано CNN.
След инцидента с Hugging Face главният изпълнителен директор на OpenAI Сам Алтман загатна, че може да е дошло време за забавяне на развитието на AI. Забавянето на темпото на AI би „ни дало достатъчно време обществото да се адаптира и да изгради устойчивост спрямо тези нови нива на възможности“, каза той в юлски епизод на подкаста Invest Like The Best.
През юли повече от 1300 висши служители в водещи технологични компании подписаха отворено писмо с искане към правителството на САЩ да създаде инструменти, които да помогнат за забавяне темпото на развитие на AI, с подкрепата на Амодей и Алтман.
