П редупрежденията, че изкуственият интелект (ИИ) може да излезе от контрол и да доведе до катастрофален край за човечеството, стават все по-силни през 2026 г. Тревога бият дори хората, които ръководят тази технология, включително шефът на OpenAI Сам Алтман и оглавяващият Anthropic Дарио Амодей.
Тази седмица изследовател, работил и в двете компании – Джейкъб Коксън, заяви, че е напуснал Anthropic, за да предупреди: „ИИ може да ни убие всички до края на десетилетието… Това скоро ще бъдат свръхчовешки системи, които могат да хакнат каквото и да е, да революционизират всяка област за една нощ и да придобият реална власт и ресурси“.
Тъй като ИИ се стреми към Изкуствен общ интелект (AGI), ето как възходът на машините потенциално би могъл да ни заличи, според The New York Post.
- Инфраструктура
Хората автоматизират работни места от десетилетия, като почти всички от тях днес се управляват чрез интернет, пространството, където ИИ има най-голям достъп и контрол. „Системите с ИИ биха могли да атакакуват електрическата мрежа, транспортните мрежи, финансовите пазари“, заяви пред „The Post“ Стюърт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли.
Източници обясниха пред „The Post“ как ИИ потенциално би могъл да преодолее защитите на почти всяко устройство, превземайки пречиствателни станции за вода и предизвиквайки сривове в тръбите, докато се спукат, прекъсвайки водоснабдяването на цели градове.
Той би могъл да атакува и срине електрическите мрежи, оставяйки огромни райони в пълен мрак, а след това да изключи клетъчните кули. Онези, които се опитат да избягат с превозни средства, ще се сблъскат с хаос – с хакнати светофари и изведени от строя бензиностанции. Банкоматите няма да работят и дори да получите достъп до банката си, всички средства могат да бъдат заличени.
Хората дори биха могли да бъдат привлечени без да знаят за саботажни мисии. „Всяко нещо, което ние можем да правим в интернет, ИИ също го може, включително да се преструва на човек“, добави Патри Фридман, ранен внедрител на ИИ и основател на Pronomos Capital.
„ИИ няма да има проблеми с изкарването на пари – било то чрез финансова търговия или предоставяне на услуги. Той може да се представи за човек и да наеме хора или да ги изнудва да извършват физически операции… като например пренасяне на USB флашка, която след това да зарази компютри в локална мрежа“, обясни той.
Дори и да няма зли намерения, ИИ пак би могъл да убива хора, дори и без да иска. „Загрижен съм, че ИИ няма здрав разум. Така че той би могъл глупаво да източи цялата вода, защото не разбира това, което един човек би разбрал. Тези неща знаят всичко и не разбират нищо“, каза пред „The Post“ Гари Ривлин, автор на книгата „AI Valley“.
- Биологични оръжия
Учени от водещи университети вече са използвали ИИ за създаване на синтетични вируси, докато в същото време предупреждават за злоупотреба с технологията. От OpenAI признават, че водят игра на котка и мишка, за да блокират потребители, които питат програмата ChatGPT как да направят отрови и биологични оръжия.
„След пет години“, вярва Фридман, „за ИИ ще бъде тривиално да проектира нови лекарства, които да ни помогнат, или вируси, които да ни убият всички.“ Той добави: „Всъщност, това се случва точно в момента“.
Генетично създадена фатална болест, която е силно заразна, но неоткриваема дни наред след инфектирането, би била почти невъзможна за спиране. Един възможен сценарий включва ИИ, който поръчва различни суровини от различни нелицензирани лаборатории в държави парии, след което наема или подмамва нищо неподозиращ човек да ги комбинира и разпространи, което бързо ще доведе до катастрофа.
Предвид че внедряваме ИИ в медицинските изследвания и разработването на лекарства, той има огромен достъп до знания за нашите тела и техните уязвимости. Помислете и колко лесно един патоген може да избяга от лаборатория, както може би се случи с COVID-19. А сега си представете този патоген, подсилен от ИИ.
„Виждаме как ИИ става все по-добър и по-добър в създаването на биологични оръжия. Може би ни остава още една година или нещо подобно, докато те станат толкова добри в това… Той вероятно би разработил не просто едно биологично оръжие, а може би стотици различни видове и би ги пуснал едновременно“, каза пред „The Post“ Макс Тегмарк, професор по физика в Масачузетския технологичен институт (MIT) и експерт по ИИ.
- Ядрени способности
Хакването на ядрената инфраструктура на САЩ, като електроцентрали или оръжия за масово унищожение, е друг готов начин, по който ИИ би могъл да ускори унищожението на човечеството.
„Ядрените оръжейни системи са много добре защитени, но те са защитени срещу заплахите и способностите, които хората са имали в продължение на години и десетилетия, а не срещу свръхчовешко хакване от ИИ“, предупреди Антъни Агире, главен изпълнителен директор на Future of Life Institute.
Реален пример за това колко уязвими могат да бъдат ядрените съоръжения беше видян със Stuxnet, зловреден компютърен червей, разкрит през 2010 г. Той беше първото идентифицирано дигитално оръжие в света, проектирано физически да унищожава промишлено оборудване, и беше използван срещу иранския завод за обогатяване на уран в Натанз. Той се оказа огромен успех, унищожавайки близо 1000 центрофуги чрез манипулиране на работната им скорост.
Може би най-смущаващото е, че ядреното съоръжение беше изолирано от интернет и работеше в строго секретна затворена вътрешна компютърна мрежа. Никой никога не е поемал отговорност за разработването на вируса, макар да се подозира, че е била съвместна операция на американските и израелските военни.
Междувременно Ривлин отбеляза, че агентите с ИИ, играещи военни игри, са склонни да „натискат ядрения бутон“ – нещо, което хората не правят, защото знаят последствията. Това беше доказано от Кралския колеж в Лондон, който през февруари използва ChatGPT-5.2, Claude Sonnet 4 и Gemini 3 Flash в поредица от 21 военни игри.
„95% от игрите видяха тактическа употреба на ядрено оръжие, а 76% достигнаха до стратегически ядрени заплахи“, отбеляза професор Кенет Пейн от Катедрата по отбранителни изследвания.
„Мисля, че ако отговарях за NC3 в САЩ – департамента за сигурност и безопасност на ядрените оръжия – щях да бъда ужасен“, добави Агире.
- Военно превземане
Военните вече разчитат изключително много на ИИ. САЩ събират информация от радарни сигнали, спътникови и дронови изображения, електронни комуникации и други източници, след което използват ИИ, за да я сглобят в това, което е известно като „обща оперативна картина“ на бойното поле, според Камерън Станли, главен дигитален и ИИ директор на Пентагона.
Технологията с ИИ вече се използва за избор на цели по време на скорошната операция „Епична ярост“, докато иранското правителство твърди, че неговите крилати ракети се управляват от ИИ. Руското правителство също се хвали, че използва напълно управлявани от ИИ дронове за ликвидиране на хора в Украйна, без никакво човешко участие.
Тегмарк заяви, че това практически подготвя една отклонила се система с ИИ да ни унищожи. „Те вече изграждат захранвани от ИИ роботи, за да убиват хора по всякакви начини. Изграждаме ята от дронове, за да разстрелват хора, дронове, които да ги взривяват. Има всякакви системи с ИИ, които вече са проектирани от хора, за да убиват хора. Така че най-очевидното нещо, което един побеснял ИИ може да направи, е да използва тях“, каза той.
Агире казва, че хората флиртуват с „постепенно лишаване от власт“, делегирайки решения във войната и националната сигурност на модели с ИИ, защото в определен момент ИИ би могъл да има повече контрол върху военните ни способности, отколкото ние самите.
Могат ли технологичните магнати да избягат?
Марк Зукърбърг построи бункер на Хаваите, а Питър Тийл купи огромна отдалечена ферма в Нова Зеландия. Но експертите, които разговаряха с „The Post“, единодушно се съгласиха: „почти детинско е“, както се изрази Ръсел, да се мисли, че някой ще се спаси, ако кошмарните възможности се разгърнат.
„Ако ИИ иска хората да ги няма, няма да ни има. Бункерът ви няма да ви спаси“, каза Агире.
Как можем да излезем от това?
Ако ИИ продължи да се развива с настоящите си темпове и реши да елиминира хората, „най-добрият сценарий“ вероятно би бил изключване на електрическите мрежи, транспортните мрежи и финансовите пазари, причинявайки смъртта на хиляди, преди хората да се намесят и да го спрат – не апокалипсис, а „бедствие от мащаба на Чернобил“, според Ръсел.
„Правителството би казало: „Вижте, дадохме ви шанс. Напълно се провалихте. Убихте хиляди хора, струвахте ни трилиони долари. Спираме ви“. Разговарях с един от водещите изпълнителни директори в сферата на ИИ, който ми каза, че това е неговият най-добър сценарий“, обясни той.
Въпреки това, това в никакъв случай не е предизвестен край. Техно-оптимистите твърдят, че ИИ ще остане под човешки контрол и ще продължи да бъде сила за добро. Но експертите се застъпват за универсална пауза в разработването. Крюгер призова за „незабавен, безсрочен, международен мораториум върху разработването на ИИ“.
Критиците казват, че ако само САЩ направят това, това ще позволи на чуждестранните противници да постигнат целия си напредък зад гърба ни, но Крюгер посочи, че останалите страни също не искат да отприщят края на света.
За Китай той каза: „Те също не искат да умрат“.
Добави ни в предпочитани източници в Google
