М оли Киндър видяла апокалиптичните предупреждения за изкуствения интелект, докато се прибирала пеша, след като оставила децата си в началното училище. Прелиствайки публикации в социалните мрежи, където вътрешни хора от сферата на ИИ отправяли зловещи твърдения, че технологията може да доведе до изчезването на човечеството, тя замръзнала на място само на една пресечка от прага, където току-що била прегърнала 4-годишното си дете за довиждане.
Като бивш изследовател в института „Брукингс“, напуснала, за да основе организация, фокусирана върху въздействието на ИИ върху работните места, Киндър била добре запозната с потенциала му да разтърси обществото. Но в този момент, в едно септемврийско утро във Вашингтон, тя не реагирала на новините като експерт по политиките или като човек с връзки в света на ИИ. Вместо това, казва Киндър, „веднага реагирах като майка“.
„В мига, в който станах майка, задача номер едно за мен стана да обгрижвам тези деца и да ги държа живи, точно както всеки друг родител, точно както всяко животно. Това е биологичен инстинкт. Това е първият път, в който искрено изпитах истински страх от нещо външно, извън моя контрол“, казва 46-годишната майка на три деца, която освободила графика си същата сутрин, за да пише за страховете си в дълга поредица от публикации в X.
Опасенията, че суперинтелигентните машини биха могли в крайна сметка да представляват екзистенциален риск за човечеството, които дълго време бяха тема на дискусия в Силициевата долина и в средите на ИИ, през последните месеци станаха масови. Първо, OpenAI разкри, че рояк от нейни експериментални модели на ИИ са избягали от тестова среда и са хакнали друга ИИ платформа, Hugging Face, без човешко указание или знание. След това дойде публикация в социалните мрежи от млад изследовател от Anthropic на име Джейкъб Коксън, който обяви, че напуска индустрията поради убеждението си, че компаниите зад ИИ „се надпреварват директно към самоусъвършенстващ се суперинтелект и залагат на карта живота ни“. Други в индустрията повториха опасението – като един изследовател от Anthropic цитира собственото си виждане, че има над 10% шанс бъдещите модели да „избият всички хора!“ в рамките на следващото десетилетие.
Внезапно един теоретичен риск, застъпван от някои от т.нар. „кръстници на ИИ“, за който беше предупредено в изявления, подкрепени от водещи изследователи, и който беше проучван от ИИ компании, избухна в съзнанието на по-широката общественост, пише Си Ен Ен (CNN).
Водещи ръководители в областта на ИИ, много от които са съгласни, че технологията крие опасности за оцеляването на човека, призоваха за забавяне на темпото на развитие. А политиците започнаха да дебатират дали е необходимо законодателство, за да се обуздае една индустрия, която се надпреварва с Китай и от която се очаква да донесе огромни печалби и технологичен напредък.
До началото на този месец проучванията на общественото мнение установиха, че 64% от американците вярват, че е донякъде или много вероятно ИИ да стане достатъчно мощен, за да представлява сериозна заплаха за оцеляването на човечеството. Този потенциал, колкото и далечен да е, засегна тежко една група, която е особено инвестирала в бъдещето на човечеството: майките.
„Животът си струва да бъде повторен“
Лиз Блек, 41-годишна писателка, която живее извън Филаделфия, мислила усилено дали да има дете, размишлявайки над притеснения като климатичните промени. Това, което помогна да затвърди решението ѝ да го направи, било едно изречение, написано от майка ѝ, докато самата тя вземала решението да има деца: „Животът си струва да бъде повторен“. Блек намерила посланието след смъртта ѝ и била толкова трогната, че си го татуирала на ръката.
Когато родила сина си преди три години и половина, вероятността суперинтелигентни компютри да сложат край на човечеството не била в полезрението ѝ. Напоследък, казва тя, това е „постоянен тих шум в дъното на съзнанието ми“. Ситуацията ѝ се струва извън контрол – сякаш „малък брой компании, малък брой хора, ни държат всички като заложници“. Тя е решена да не позволи да бъде погълната от въпросите „ами ако“, като вместо това се фокусира върху сина си, който ѝ пее и повтаря нейните напомняния да бъде нежен с другите деца.
„Трябва да вярвам, че има бъдеще за мен, за съпруга ми и за детето ми“, казва Блек.
Докато някои се отнасят пренебрежително към екзистенциалната паника, вярвайки, че е преувеличена или че отвлича вниманието от настоящите проблеми на ИИ, други се оказват в плен на нови въпроси за това какво означава да доведеш живот на света – и какъв вид действие се изисква пред лицето на едно потенциално катастрофално бъдеще.
Те се стекоха в онлайн форуми в търсене на съвет и подкрепа, публикувайки неща като: „Постоянно подлагам на съмнение реалността, чудя се какъв е смисълът, чувствам се виновна, че доведох детето си в този свят“. Споделяха подкасти и новинарски статии в групови чатове, преценявайки дали се поддават на преувеличени хипотези или имат право да се притесняват.
Изследователят на ИИ и професор Дейвид Крюгер, който бие тревога от години, каза, че се е опитал да си представи как трябва да се чувстват тези, които сега осъзнават хазарта, който се играе от водещите ИИ компании. Той няма деца, отчасти поради загрижеността си за това какво ще се случи, ако хората загубят контрол над системите на ИИ, но каза: „Мисля, че чувство на родителите да искат да защитят децата си е една от най-могъщите сили в света“.
„Мисля, че просто щях да бъда толкова възмутен и разстроен от хората, които съвсем очевидно, съвсем нагло и безсърдечно рискуват живота на детето ми“, добави Крюгер, асистент по компютърни науки в Университета на Монреал.
Негова позиция отдавна е, че екзистенциалната заплаха е реална, че ако компаниите продължат да се надпреварват да правят ИИ по-автономен и по-интелигентен, човешкият контрол може да бъде загубен, като вероятно ще последва изчезването на човешкия род. Като асистент в Университета в Кеймбридж през 2023 г., той инициира изявление от едно изречение относно риска от изчезване, подписано от видни изследователи на ИИ и лидери в индустрията. Миналата година той основа сдружение с нестопанска цел, наречено Evitable, за да информира и активизира обществеността относно опасностите от разработването на по-мощни системи на ИИ.
Наблюдавайки как светът извън балона на ИИ започва да говори за екзистенциалната заплаха, Крюгер каза, че се е почувствал по-оптимистично настроен, отколкото може да си спомни през последните повече от 15 години, в които се тревожи за риска за човечеството. За него следващата стъпка е ясна: да се спре разработването на по-автономни, по-мощни системи на ИИ възможно най-скоро.
„Хората често говорят за това като за надпревара между САЩ и Китай. Аз го виждам като надпревара между хора, които бързат да построят тази опасна технология, и хора, които се активизират и се надпреварват да ги спрат“, каза Крюгер.
Някои в света на ИИ омаловажават опасността, представяйки прогнозите за Страшния съд по-скоро като научна фантастика, отколкото като научни, или твърдейки, че рисковете могат да бъдат управлявани. Дори сред изследователите и вътрешните хора, които вярват, че има риск технологията един ден да заличи човечеството, няма широко съгласие за това кога – или как – би се случило това. Общата идея, както я формулира Йошуа Бенджио, един от „кръстниците на ИИ“, е, че ако машините станат по-умни от хората, те ще развият своя собствена воля и цели, които потенциално са различни от намерението на създателите им. Много разработчици на ИИ вярват, че опасността може да бъде смекчена чрез „съгласуване“ (alignment) или работа за вграждане на човешки ценности в системите на ИИ, но Крюгер, Бенджио и други не мислят, че настоящите техники за съгласуване могат да гарантират безопасност.
„Мощна електорална група“
Загрижеността за начина, по който технологията може да повлияе на децата, не е нова, въпреки че фокусът обикновено е бил върху това как използването ѝ може да попречи на ученето или да навреди на психичното здраве. Джули Скелфо, базиран в Ню Йорк журналист и майка на три деца, която основа MAMA – Mothers Against Media Addiction (Майки срещу медийната зависимост), каза, че отношението на нейната организация е: „нека се фокусираме върху действителните вреди, които се случват – нека ги овладеем, и правейки това, ще защитаваме бъдещите поколения“. Тя се тревожи повече за въздействието на технологията върху образованието и психичното здраве на децата.
Но за други родители екзистенциалният въпрос не би могъл да се усеща като по-спешен. Една майка от Северна Каролина, искайки да направи нещо по отношение на това, което тя вижда като зловеща ситуация, пътува до Вашингтон по-рано този месец с организацията Pause AI US, която се застъпва за спиране на развитието на авангардния ИИ. Тя разговаря със служители на своите представители в Конгреса, вдигайки снимка на 16-годишната си дъщеря и питайки ги какво правят, за да обуздаят заплахата от ИИ. На всяка среща тя завършвала в сълзи.
„Надявам се, че това може да бъде спряно, но се притеснявам, че не може или няма да бъде спряно“, казва майката, която поиска анонимност, не искайки собствената ѝ загриженост по въпроса да засегне пациентите, които лекува като терапевт. Тя плачеше, казвайки, че ако това не бъде спряно и технологията напредне отвъд човешкия контрол, се тревожи за дъщеря си: „Вярвам, че всичко, което исках за нея, няма да се случи“.
Ново проучване на CNN показва, че мнозинството от гласоподавателите на републиканците и демократите вярват, че федералното правителство не прави достатъчно за регулирането на ИИ. Сенаторът от щата Мичиган от Демократическата партия Малори Макмороу, която предложи федерален план за безопасност на ИИ като част от вече прекратената си кандидатура за Сената на САЩ, каза, че бързият темп на развитие е предизвикал безпокойство у гласоподавателите, които вече са недружелюбни към големите технологични компании. По време на кампанията много гласоподаватели ѝ казали, че използват инструменти като ChatGPT, но се питат как могат да бъдат сигурни, че ИИ няма да причини вреда.
„Обикновените хора са там, те го разбират. Не мисля, че е имало друг въпрос, чиято актуалност да се е увеличила повече от този, защото просто се усеща сякаш е навиран навсякъде пред лицата ни“, каза тя.
Ще се превърне ли настроението на избирателите в действия на Конгреса? Миналата седмица независимият сенатор от Върмонт Бърни Сандърс и демократът Грег Касар от Тексас представиха законодателство, забраняващо изкуствения „суперинтелект“, който техният законопроект дефинира като технология, надвишаваща човешките когнитивни способности или способна да лиши човечеството от власт.
Републиканците изразиха тревога от зловещите предупреждения, идващи от индустрията, но се застъпиха за подходи с по-лека намеса. Президентът Доналд Тръмп, междувременно, категорично отхвърли призивите за предпазни мерки; в публикация в социалните мрежи той твърди, че всичко, което е необходимо, е „СИЛЕН И УМЕН (с висок IQ!) ПРЕЗИДЕНТ“.
Киндър, изследователят на ИИ и работните места, е поразена от липсата на регулация около ИИ в сравнение с други продукти, които засягат децата – столчета за кола, креватчета, адаптирано мляко. Знаейки докъде биха стигнали родителите, за да защитят децата си, тя размишлява дали не може да се направи повече за мобилизиране на майките. Тя е разговаряла с други майки за необходимостта от вид „Майки срещу шофирането в нетрезво състояние“ за екзистенциалната заплаха от ИИ – „Майки срещу катастрофалния риск“ или нещо подобно. Тя се тревожи, че твърде малко хора гледат на въпроса през призмата на въздействието му върху техните деца.
„Това е сложен въпрос. Имаме геополитически проблеми. Имаме тази неистова надпревара между компаниите. Има фондов пазар, който се захранва от този бум – знаете ли, много неща зависят от това. И ако не обърнем внимание, фактът, че животът на децата ни е заложен на карта, може да бъде засенчен от тези други приоритети“, казва Киндър.
Описвайки майките като „наистина мощна електорална група“, тя каза, че вижда празнина в усилията да бъдат информирани те за крайната степен на рисковете – и да им бъдат предложени решения. Макмороу, която познава Киндър чрез нейните изследвания, се съгласи, казвайки, че „няма по-мощна сила от организираните майки“. Тя има дъщеря, която току-що е започнала детска градина.
За Киндър, която е разменяла късни нощни съобщения с други майки, губещи сън от безпокойство, необходимостта от предпазни мерки е ясна. Тя каза, че след като родителите разберат, че нещо е небезопасно за децата, те се борят за промяна на законите.
„Не можем да позволим една технология, която представлява риск не само за моите деца, но и за децата на всички, да бъде толкова нерегулирана“, добави тя.
