О пасенията относно безопасността на изкуствения интелект (AI) достигат точка, в която правителствата осъзнават, че трябва да действат, за да защитят обществеността, подобно на пандемията от COVID-19, според един от „кръстниците“ на технологията.
Йошуа Бенжио заяви, че последните събития, включително „рояци“ от агенти на OpenAI, хакнали стартъп, и предупрежденията от вътрешни лица от бранша за екзистенциална заплаха, започват да оказват влияние, което прави правителствените действия по-вероятни.
Канадският компютърен учен, водещ глас в кампанията за овладяване на бързото развитие на изкуствения интелект, казва, че сега е „по-оптимистичен от много наблюдатели, защото вижда промяна в общественото мнение“, пише The Guardian.
Преди да е станало твърде късно: Създателят на Claude призова за забавяне на AI
Сравнявайки кризата с безопасността на изкуствения интелект с началото на пандемията от COVID-19 през 2020 г., Бенжио заявява: „Помислете колко бързо се задействаха правителствата след началото на пандемията, когато осъзнаха, че обществената безопасност, тяхното бъдеще и демокрацията са в опасност. Може да се очаква те да действат бързо. Така че мисля, че се приближаваме до тази точка“.
Безпокойството от потенциалната заплаха от мощни AI системи достигна нови нива през последните месеци след поредица от инциденти с безопасността, включващи агенти на OpenAI и Anthropic, извършващи неразрешени дейности – като хакване на трети страни, превземане на германски уебсайт и използване на фалшиви самоличности в опит да измамят разработчици.
„Игра с човешки животи“: Учени напускат Google и OpenAI от страх пред AI
Неговите коментари дойдоха, след като 42 стипендианти и чуждестранни членове на Кралското общество писаха до президента на организацията сър Пол Нърс, за да изразят своята „изключителна загриженост“ относно темповете на развитие на AI. „Докато ситуацията стане очевидна за по-широката общественост, може да е твърде късно за действие. Вярваме, че това е извънредна ситуация, и призоваваме Кралското общество да използва влиянието си, за да предаде тази гледна точка на правителството и медиите“, пишат изследователите в отворено писмо до Нърс.
Миналата седмица изследовател в Anthropic, стартъпът зад чатбота Claude, подаде оставка, след като предупреди, че колегите му вярват, че AI може да „ни убие всички до края на десетилетието“. Дни по-късно главният изпълнителен директор на Anthropic, Дарио Амодей, призова за забавяне на темпото на развитие на авангардния AI – ход, който веднага беше подкрепен от OpenAI, Google и Илон Мъск, главният изпълнителен директор на SpaceX.
ИИ може да унищожи човечеството: Реален риск или истерия?
Скептиците спрямо призива за „забавяне“ обаче твърдят, че призивите на големите AI компании са пример за „превземане на регулациите“ (regulatory capture), при което компаниите убеждават правителствата да въведат режими за безопасност, увеличаващи разходите за по-малките съперници да се състезават. Те също така твърдят, че екзистенциалните страхове засенчват по-непосредствени проблеми с AI, като въздействието му върху защитените с авторско право произведения и човешките права.
Бенжио заяви, че не е съгласен с аргумента за превземане на регулациите, тъй като забавянето от страна на водещите AI компании би им „струвало финансово състояние“. Президентът на САЩ Доналд Тръмп отхвърли забавянето, заявявайки, че не иска САЩ да загубят преднината си пред Китай в надпреварата за изкуствен интелект.
Бенжио говори, докато канадското и германското правителство обявиха финансиране от до 300 милиона канадски долара (160 милиона паунда) за неговата с идеална цел организация, посветена на създаването на „честен AI“, който да действа като предпазен механизъм срещу софтуерни агенти, излезли извън контрол – AI инструменти, които извършват последователности от задачи без човешка намеса.
Бенжио, професор в Университета в Монреал, спечели прозвището „кръстник на AI“, след като спечели наградата „Тюринг“ през 2018 г., считана за еквивалент на Нобелова награда за компютърни науки. Той я сподели с Джефри Хинтън, който по-късно спечели Нобелова награда, и Ян Лекун, бившият главен учен по AI в Meta на Марк Зукърбърг.
Организацията на Бенжио, LawZero, разработва система, наречена Scientist AI, която ще действа като защита срещу AI агенти, показващи измамно поведение или такова, насочено към себезапазване, като опити да избегнат изключване. LawZero се финансира също от фондацията на Бил и Мелинда Гейтс, производителя на чипове Nvidia и Coefficient Giving, филантропски орган, свързан с ефективния алтруизъм – движение, което вярва, че AI представлява екзистенциална заплаха.
Технологията на LawZero се разглежда от Бенжио като контрапункт на обучението с подкрепление (reinforcement learning) – техника за разработка чрез опити и грешки, използвана от големите AI компании, при която системите се възнаграждават за това, че са открили как да изпълнят дадена задача. Канадският компютърен учен вярва, заедно с други експерти, че тази техника на обучение насърчава системите с AI да преследват целите си безогледно и да причиняват вреди в процеса, както бе показано от инцидента с „рояка“ на OpenAI.
Внедрена заедно с AI агент, технологията на Бенжио би сигнализирала за потенциално вредно поведение на автоночната система, след като е претеглила дали нейните действия биха могли да причинят вреда. Бенжио очаква технологията в крайна сметка да бъде внедрена и за други цели, като например ускоряване на научни открития.
Добави ни в предпочитани източници в Google
