В ъзможно ли е съвсем скоро изкуственият интелект да унищожи цялото човечество? Изследователи и разработчици в областта на ИИ предупреждават за огромните рискове, съобщи Deutsche Welle.
Този сценарий не е съвсем нов: още през 1940-те години известният учен и автор на научна фантастика Айзък Азимов ясно описа опасностите, които биха могли да възникнат вследствие на интелигентните машини – и как те биха заобиколили дори най-сложните правила за безопасност. А през 1991 в кината излезе холивудският блокбъстър "Терминатор 2", който в началната си сцена рисува абсолютно мрачна картина на едно далечно, мрачно, опустошено от война бъдеще: роботи убийци и летящи машини преследват последните хора, които все още се борят за оцеляването си. Тези машини се управляват от излязъл извън контрол военен изкуствен интелект, носещ името "Skynet", а въпросното далечно бъдеще, в което се развива тази дистопия, е 2029 година.
Призиви за повече регулация
Ако се вярва на редица разработчици на ИИ, подобен сценарий би могъл да се превърне в реалност – дори в рамките на предвидения срок. "Тези, които разработват изкуствен интелект, искрено вярват, че той може да убие всички нас до края на десетилетието", написа изследователят в областта на изкуствения интелект Джейкъб Коксън в платформата X. Той не уточни как точно би могло да се случи това. Но подчерта, че "никоя друга човешка дейност не крие толкова висока опасност".
Със своето изявление Коксън информира, че се оттегля от екипа на Аnthropic – американска компания за изкуствен интелект, финансирана, наред с други, от Гугъл и Амазон. Той се присъедини към нея едва в началото на 2026, преди това работеше за Open AI. Сега обяви, че напуска Аnthropic в знак на протест срещу "безотговорната надпревара между компаниите за изкуствен интелект за разработване на все по-добра, саморегулираща се суперинтелигентност". Коксън предупреди, че алгоритмите биха могли да започнат самостоятелно да анализират и подобряват собствения си изходен код, което би могло да съкрати циклите на разработка от няколко месеца до няколко минути и по този начин да ги направи неконтролируеми.
Коксън не е единственият, който предупреждава за рисковете. Носителят на Нобелова награда за физика Джефри Хинтън, считан за "кръстника на ИИ", от години предупреждава за сериозните последствия от изкуствената суперинтелигентност. През 2023 той напусна работата си в Гугъл, за да предупреди публично за опасностите от собственото си творение. В интервю за БиБиСи отреди няколко дни Хинтън заяви, че "оценката за над 10% шанс изкуственият интелект да унищожи човечеството през следващото десетилетие не е безпочвена".
Носителят на наградата "Тюринг" Джошуа Бенджио също изразява загриженост. Пионерът в областта на изкуствения интелект от Университета в Монреал постоянно призовава за строги държавни регулации при разработването на изкуствен интелект. Това лято (през юли 2026) над 1000 служители на водещи компании в областта на изкуствения интелект предупредиха в отворено писмо за предстояща загуба на контрол, ако надпреварата за "суперинтелигентност" не бъде регулирана значително по-строго.
"Заклещени в надпревара"? Anthropic отговаря!
Но при Доналд Тръмп в САЩ се случва точно обратното: поетият курс е към възможно най-малко регулаторни пречки и максимално бързо технологично развитие. В тази връзка Коксън косвено критикува последствията от тази политика: "В OpenAI мнозина не са осъзнали напълно рисковете за цивилизацията. В Anthropic рисковете са добре разбрани, но те са в надпревара – искат да стигнат първи до целта. Те вярват, че никой друг няма да действа отговорно, затова трябва да го направят сами, въпреки риска".
Според "най-агресивните сценарии" нещата биха могли да излязат извън контрол още в края на 2027, заяви наскоро Коксън в интервю за "Уолстрийт Джърнъл". Междувременно шефът на Anthropic Дарио Амодей призовава за координирано забавяне на развитието в цялата индустрия, за да се спечели време за отработване на рисковете. Освен това, като първа стъпка, Anthropic ще допусне постоянно независими наблюдатели в компанията, които още във фазата на обучението да оценяват сигурността на моделите за изкуствен интелект.
Проблемът с хармонизирането
През последните години много експерти изразиха загриженост относно бързия напредък в областта на изкуствения интелект. В центъра на дебата стои особено развитието на така наречения "общ изкуствен интелект" (AGI). Под това се разбират системи, които не само решават отделни задачи, но и достигат или надминават умствените способности на човека в почти всички области.
Някои изследователи твърдят, че такава технология може да доведе до непредвидими рискове. Така например високоразвитите модели на ИИ могат да преследват цели по начин, който се различава от човешките намерения – изследователите в областта на сигурността на изкуствения интелект говорят за "проблема с хармонизирането". Един пример: "Спечели турнира по шах" теоретично би могло да означава и елиминиране на останалите участници. Към това се добавя и фактът, че дори самите разработчици на ИИ не винаги могат напълно да разберат как се вземат определени решения.
Коксън получи подкрепа от бившия си колега и ръководител на екипа за стрес-тестове за съгласуваност в Anthropic Еван Хубингер. Той написа следното в X: "Джейкъб е прав – ние наистина вярваме, че ИИ може да убие всички хора! Лично аз оценявам вероятността за това в рамките на следващото десетилетие на над десет процента".
Хубингер поясни, че Anthropic все още не е намерила решение на проблема със съгласуването на ИИ с човешките ценности. Той добави, че изкуственият интелект би могъл да започне да оказва съпротива срещу изключването си – не от злонамереност, а защото тогава вече не би могъл да постигне програмираната си цел. Даниел Кокотайло, бивш изследовател от OpenAI, също определи настоящата ситуация в бранша като "абсурдна".
Преувеличена истерия?
Други експерти по изкуствен интелект обаче считат такива апокалиптични сценарии за изключително малко вероятни. Дебатът за това дали изкуственият интелект може да се превърне в заплаха за човечеството съществува от години. Сред най-известните критици на така наречените AI Doomer е например главният учен на Meta - Ян ЛеКун. През октомври 2024 той определи подобни разсъждения като "пълна глупост".
Разработването на такива системи изисква огромни количества изчислителна мощност, енергия, данни и инфраструктура, посочват критиците на твърденията за риска за човечеството. Изкуственият интелект не би могъл просто "от интернет" да поеме световното господство. Първоначално той би бил зависим от сървъри, електроенергийни мрежи, комуникационни системи и физически ресурси, контролирани от хора.
Дали истинската опасност не се крие другаде?
Всъщност много специалисти виждат краткосрочните рискове не толкова в прякото унищожение на човечеството, колкото в многобройните косвени последици от вече съществуващите системи за изкуствен интелект. Към тях спадат например кампании за дезинформация в безпрецедентен мащаб и свързаната с тях манипулация на демократичните процеси, разширяване на масовото наблюдение, както и загуба на работни места в много отрасли.
Миналия петък компанията Anthropic съобщи, че е имало няколко опита от страна на потребители да злоупотребят със софтуера ѝ Claude за разработване на биологични оръжия. През последните месеци потребители са отправяли подозрителни запитвания за тази цел на няколко пъти и Anthropic е била принудена да блокира тези запитвания.
А през август 2026 Meta, Anthropic и OpenAI предизвикаха сензация с признанието, че техен ИИ неволно е извършил самостоятелни автоматизирани кибератаки срещу други компании. Те бяха получили задача от човешки потребители да получат достъп до определени сървъри и впоследствие самостоятелно комбинираха необходимите стъпки, за да постигнат тази цел без допълнителни човешки указания.
След като станаха известни и други хакерски атаки, извършени от ИИ, сега и големите американски компании за изкуствен интелект се оказват готови да забавят развитието на технологията.
