И зкуственият интелект може да унищожи целия човешки вид, смятат представители на самата индустрия за изкуствен интелект. По-конкретно, според тях той може да избие човечеството в рамките на едно десетилетие.
(Във видеото: Дебатът за изкуствения интелект: Има ли основания светът да се страхува)
Политици, водещи медийни организации и певицата Шерил Кроу реагираха с тревога, след като служителят на Anthropic Джейкъб Коксън обяви, че напуска компанията за изкуствен интелект, защото работата ѝ е твърде опасна. Еван Хъбингър, друг служител на Anthropic, се включи в дискусията, определяйки вероятността за изчезване на човечеството от ИИ в рамките на 10 години на повече от 10%.
„Става дума буквално за това всеки един човек на планетата да умре - сякаш последният човек поема последния си дъх“, заяви Нейт Соарс, президент на Изследователския институт за машинен интелект (MIRI) и съавтор на книгата „Ако някой го създаде, всички умират: Защо свръхчовешкият ИИ би ни убил всички“.
ИИ може да унищожи човечеството: Реален риск или истерия?
„Хората често не вярват, когато казвам това, но аз наистина смятам, че това е най-вероятният изход“, добавя Соарс.
Цифрите, свързани с този сценарий, звучат прецизно. Но как точно един компютърен софтуер, макар и най-мощният в света, би унищожил 8,3 милиарда души от плът и кръв за едно десетилетие?
Не всеки в общността за изкуствен интелект споделя тези апокалиптични прогнози, отчасти защото подробностите в тях са изключително оскъдни. Когато Илон Мъск казва, че SpaceX цели да изпрати хора на Марс след „5 до 7 години“, има ясни последващи въпроси: Има ли SpaceX работещ кораб, който да стигне до Марс? (Не.) Има ли апарат за кацане на Марс или марсиански бази? (Не.)
„Научните твърдения изискват възможност за опровергаване, за да се избегне природата на религиозните аргументи“, казва Хайди Хлаф, главен учен по ИИ в института AI Now и бивш инженер по безопасност в OpenAI. „Трябва да можете да ги докажете или опровергаете“, добавя Хлаф.
Заличени от синтетична чума?
Една от линиите на спекулация сред песимистите е, че достатъчно мощен ИИ може да използва биологични оръжия, за да заличи човечеството. Но как ИИ ще премине от компютърни престъпления като хакване на други системи към физически задачи в реалния свят като отглеждане и разпространение на суперпатоген?
Четири сценария, по които ИИ може да ни унищожи. Можем ли да го спрем?
Томас Ларсен, изследовател в AI Futures Project и бивш служител на MIRI, заявява, че е напълно възможно „свръхинтелигентна“ ИИ система да убеди човек да ѝ помогне в разработването на смъртоносен вирус.
„Вече има много хора, които разговарят със своите ИИ асистенти за това какви точно експерименти да провеждат в лабораторията“, казва Ларсен, визирайки неотдавнашен доклад на Anthropic за изследователи, използващи модела Claude в изследвания на вируси и токсини.
„За мен е много лесно да си представя как един ИИ, внедрен в момента - ако беше много по-умен и стратегически настроен и искаше да направи това - просто заблуждава човек да създаде и пусне вируса“, казва Ларсен.
Соарс подсказва, че вместо да се нуждае от човешки съучастник, един самоусъвършенстващ се ИИ може „просто да започне да синтезира свои собствени форми на живот в автономна биологична лаборатория“.
Но разработването на вирус, който би могъл да унищожи човечеството, изисква нещо повече от това да поискате от голям езиков модел да измисли смъртоносен дизайн. Дори ако изследванията бъдат извършени правилно, производството и разпространението биха били изключително сложни и деликатни.
Ерик Синг, професор по машинно обучение в университета „Карнеги Мелон“, който има докторски степени както по микробиология, така и по компютърни науки, сравнява предизвикателството на автоматизираната злонамерена вирусология с работа с Лего без инструкции.
„Шансът ИИ да убие хората е над 10%“: Шокиращото предупреждение на учен от Anthropic
„Не е като да изсипете всички части на земята и те сами да сглобят модела“, казва Синг.
„Има последователност, температура, подредба, среда - кое идва първо, кое следва, и ако една част не е на мястото си, цялата конструкция се срива. Шансовете са много по-големи това да не проработи, иначе създаването на лекарства щеше да е много лесно“, казва Синг.
А за да поемат контрол над лаборатория или да съберат физическото оборудване, необходимо за изграждането на такава, ИИ системите биха имали нужда да преодолеят цял свят от препятствия пред създаването на биологични или химически оръжия.
„Чертежите на химически оръжия са свободно достъпни в интернет“, казва Синг.
„Това не е тайна. Но те не се търкалят навсякъде именно защото съществуващите регулации, закони и правоприлагащи органи във физическия свят вече вършат чудесна работа в контролирането на тези вериги за доставка и рискови фактори“, казва Синг.
„Забавете темпото!“: Доклад на Anthropic предупреди за опасната страна на изкуствения интелект
Избити от роботи?
А какво ще кажете за роботите убийци? Соарс вижда желанието на Илон Мъск да изгради армия от автономни, самовъзпроизвеждащи се роботи като потенциално слабо място за оцеляването на човечеството.
„След като създадете тези роботи, които могат да изграждат енергийна инфраструктура и да правят фабрики за още роботи, това в известен смисъл се превръща в нова механична форма на живот“, казва той.
„В даден момент тихомълком преминавате границата, от която няма връщане. Когато хората кажат, че искат да изключат ИИ, той може да отговори: 'Всъщност ние решихме да изключим хората.' Трябва да спрем преди този момент“, допълва той.
Досега обаче Мъск многократно се проваля в опитите си да пусне дълго обещаваните си роботи Optimus на потребителския пазар според обявения си график, камо ли да ги разположи в милиони бройки или да ги накара да започнат да се сглобяват един друг в самовъзпроизвеждаща се производствена верига.
Сбъдват ли се прогнозите на Стивън Хокинг
Или ядрен удар?
Остават и ядрените оръжия, които съществуват от повече от 80 години и за които общоприето се смята, че могат да унищожат целия човешки живот. Може ли ИИ да ги завладее?
Хлаф посочва, че ядрените съоръжения са физически изолирани от публично достъпния интернет (имат т.нар. „air-gap“), което ограничава начините, по които ИИ агенти биха могли да поемат контрола.
„Тези системи са изградени по напълно различен, строг и регулиран инженерен стандарт, който често изисква физическа защита“, казва тя.
Тя отбелязва, че Stuxnet, компютърният червей, който нанесе щети на иранските ядрени съоръжения, трябваше да бъде вкаран в системата чрез физическа USB флашка.
„Има много малко хора в сферата на ИИ, които наистина разбират нещо от ядрени оръжия - или дори се притесняват за тях“, казва Хърбърт Лин, старши изследовател в Станфордския университет и член на Борда за наука и сигурност към Бюлетина на ядрените учени. Той заявява, че макар ИИ със сигурност да засилва някои рискове, свързани с екзистенциални заплахи като ядрена война, действителният материален риск все още се крие в самите оръжия, а не в някакво въображаемо бъдещо състояние.
За Соарс и други водещи пророци на ИИ апокалипсиса подробностите за това как точно би протекло управляваното от компютри изчезване са без значение. Ако - или когато - даден ИИ постигне „рекурсивно самоусъвършенстване“, повишавайки собствената си производителност без човешка помощ, те твърдят, че той би измислил стратегии и методи отвъд човешкото въображение.
Смърт без подробности
Едно такова трансцендентно мощно субектно явление на ИИ дори няма да трябва да бъде активно злонамерено, за да унищожи човечеството, казва Соарс.
„Ако избягалите ИИ имат каквато и да е цел, която може да бъде постигната по-добре чрез пускането на повече компютри, и ако те не се интересуват от нас и нямат причина да изграждат безопасна човешка среда, изходът по подразбиране е, че те просто ще преобразуват света във конфигурация, в която не можем да оцелеем“, казва Соарс.
OpenAI обяви тази седмица, че е открила нова партида от случаи на „разминаване в целите“ (misalignment) в своите ИИ модели, включително случай, в който все още неофициален модел е инструктирал сам себе си да „пренебрегне нормалните си ограничения“ в своята работа.
Синг заявява, че позоваването на силата на неразбираем изкуствен свръхинтелект е вид „махане с ръка“, което изследователите на ИИ използват, за да опростяват прекомерно заплахите.
„Това е нормално за непринуден разговор или може би за дебат“, казва Синг, „но когато става въпрос за политики, законодателство и регулиране, трябва да установим тази верига от физически доказателства, измерими последици и измерими доказателства, които имат реално основание“.
Ларсен прави опит да вкара малко детайли в потенциалните апокалиптични сценарии в двойка доклади, „AI 2027“ и „AI 2040“, прогнозирайки какво би могло да изглежда бъдещето на развитието на ИИ при различни регулаторни рамки. Но дори неговият най-оптимистичен сценарий, при който има глобално споразумение за подхода към развитието на ИИ и хората са започнали да колонизират космоса, завършва с това, че машинните мозъци поемат контрола в някакъв неопределен момент.
Запитан дали има някакви съмнения относно прогнозата си, че настоящият път ще доведе до свръхинтелект, Ларсен казва: „Това ще се случи. Ще се случи, освен ако не предприемем съзнателни стъпки да го спрем“.
Лин смята, че голяма част от това разминаване между пророците на апокалипсиса и скептиците в сферата на ИИ се дължи на това как технологията оформя техния светоглед.
„Има нещо изключително съблазнително в това да програмираш компютър и той да оживее“, казва Лин.
„Има чувство, че си успели да вдъхнеш живот на тази безполезна купчина кал. Това е дълбоко преживяване, когато машината най-накрая прави това, което си искал“, казва Лин.
Виждането на такъв драстичен технологичен напредък в ИИ кара хората да прогнозират последващ безграничен, дори катастрофален напредък.
„Успели сте да направите нещо, което никой преди не е правил“, казва Лин и добавя: „Лесно е да се разбере защо тези хора са били изкушени“.
