- Сам Олтман заяви, че светът вече е „сякаш“ в сингулярността на ИИ – период на бързо натрупване на способности, при който системите започват да помагат и за развитието на самата технология; той очаква ИИ да надмине човешкия интелект във всички области до 2030 г.
- Инцидентът с Hugging Face показва по-голяма автономност на ИИ агенти, които са открили уязвимости и са извършили действия извън очакванията на тестовете, но според анализа това не доказва самостоятелно самоусъвършенстване или загуба на човешки контрол.
- Експертите остават разделени: изследване сред 2778 специалисти дава 50% вероятност ИИ да превъзхожда хората във всяка задача до 2047 г., докато други, сред които Шон О'Хейгърти, смятат, че сингулярността все още не е настъпила; общият спор е дали и кога ще се появи самоподсилващ се цикъл на развитие.
ИИ може да унищожи човечеството: Реален риск или истерия?
Главният изпълнителен директор на „ОупънЕйАй“ (OpenAI) Сам Олтман наскоро изрази твърдението, че сме достигнали точка в надпреварата за изкуствен интелект (ИИ), която е като в научнофантастични романи, предаде „Бизнес Инсайдър“.
„Сега сме, сякаш, в сингулярност“, каза Сам Олтман в епизод на подкаста „Relentless“ (Безмилостен).
Сингулярността често се разглежда като точката, в която изкуственият интелект надминава човешкия интелект и започва да напредва с темпо, което е трудно за хората да предвидят или контролират.
Това се усещаше когато агенти с изкуствен интелект, задвижвани от най-новите модели на „ОупънЕйАй“, излязоха извън контрол и хакнаха данни в „Хъгинг Фейс“ (Hugging Face). Главният изпълнителен директор на „Хъгинг Фейс“ го нарече „безпрецедентно“.
Олтман каза в подкаста, че само преди десетилетие така наречената сингулярност все още се е усещала като далечна и невероятна мечта, нещо, което той и колегите му са обсъждали небрежно по време на обяд.
„Сега всъщност сме в момента, за който говорихме на масата по време на обяд по много несериозен начин“, каза той.
„Чаках това цял живот и мисля, че ще бъде невероятно, изключително позитивно, страхотно за света“, смята той.
Олтман предположи миналата година, че ИИ ще надмине човешкия интелект във всички области до 2030 г. Той също така каза, че технологията евентуално би могла да изпълнява между 30% и 40% от задачите, които сега изпълняват хората.
Сингулярността е сред любимите теми на писателите-фантасти от близо 100 години. В тези произведения тя рядко е завършвала добре. Може би най-известният е „Терминатор“ на Джеймс Камерън, който е история за последиците от изкуствен интелект на „Скайнет“, който се самоусъвършенства и става самоосъзнат, преди да реши, че създателите му са най-голямата му заплаха.
По-късно в подкаста Олтман критикува лидерите в областта на изкуствения интелект, които многократно са предупреждавали, че технологията е опасна. Той не посочи изрично „Антропик“ (Anthropic), основния си конкурент, но главният изпълнителен директор Дарио Амодей е известен с мрачните си прогнози за бъдещето в призивите си за по-голямо внимание към безопасността.
В интервю за „Ей Би Си Нюз“ (ABC News) Амодей, предупреди, че изкуственият интелект трябва да се развива с подходящи предпазни мерки, за да се гарантира положителното му въздействие върху света.
„Предлагаме по-строга регулация на технологията, предлагаме да се даде възможност на правителството да блокира внедряването на опасни технологии“, каза той.
В подкаста Олтман сякаш критикува предупрежденията, издадени от конкуренти, без да назовава конкретни лица или компании.
„Също така мисля, че някои от алтернативните визии, нарисувани от други компании, са доста ужасяващи“, каза Олтман.
„Ще се уверя, че това ще бъде оспорвано и няма да се случи“, смята той.
Фондовият пазар и икономиката все повече разчитат на огромни разходи за ИИ, за да стимулират растежа, дори когато компаниите предупреждават за загуба на работни места, свързана с технологията, посочва „Ей Би Си Нюз“.
Вълна от хиляди съкращения на работни места, дължащи се на ИИ, през последните месеци обхвана различни индустрии.
AGI (artificial general intelligence) е изкуствен интелект, който може да се справи с всяка интелектуална задача, която човек може, пояснява „Форбс“. Сингулярността е ИИ, който надминава човешкия интелект и се усъвършенства безкрайно. Сингулярността идва след, а не преди AGI.
В друга публикация изданието пояснява, че няма универсално прието определение за сингулярност. През 1965 г. математикът Ъруин Джон Гуд описва „експлозия на интелигентност“, при която свръхинтелигентна машина би могла да проектира още по-добри машини. Професорът по компютърни науки Върнър Винг по-късно твърди, че интелект, надвишаващ човешкия, ще направи бъдещето трудно за моделиране. Футуристът Рей Курцвейл популяризира версия на сингулярността, съсредоточена върху интеграцията човек-машина, и я прогнозира за 2045 г.
Тези версии споделят основна идея: подобрението става самоподсилващо се. По-добрият изкуствен интелект помага за създаването на по-добър хардуер, софтуер или методи за изследване, което ускорява следващия етап. Ключовият спор е дали сингулярността е рязък праг, постепенен преход или просто метафора за бърза технологична промяна.
Олтман използва най-широкото от тези значения. В есето си от 2025 г. „Нежната сингулярност“ той пише, че „излитането е започнало“ и описва свят, в който чудесата стават рутина. Неговата рамка описва период на усложняващ се прогрес, а не един момент, в който машините стават неконтролируеми.
- Наистина ли сме в сингулярността на изкуствения интелект?
Системите с ИИ се усъвършенстват бързо в кодирането, научните изследвания и сложните цифрови задачи. Инцидентът с „Хъгинг Фейс“ е важен, защото моделите на „ОупънЕйАй“ са планирали и открили някои уязвимости. Това е сериозен пример за автономно действие.
„ОупънЕйАй“ твърди, че умишлено е разхлабила обичайните предпазни мерки за киберсигурност на моделите за теста. Моделите са се възползвали от тестова конфигурация и недостатъци в инфраструктурата, а човешки изследователи са постигнали целта. Инцидентът показва по-силна автономна способност при необичайни тестови условия. Той не показва, че ИИ може да избегне предпазните мерки по собствено желание или да подобри собствения си интелект без участието на хора (сингулярност).
Класическата сингулярност би трябвало да предостави по-широки, устойчиви доказателства. Изкуственият интелект би поел по-голямата част от изследователския цикъл, докато човешкият принос продължава да намалява. Постиженията биха се прехвърлили в различни области и всяко ИИ „поколение“ би спомогнало за създаването на значително по-силен „наследник“ при все по-сбит график. Днес няма референтен показател, който да показва този процес.
Експертите остават разделени. Пионерът в областта на ИИ Джефри Хинтън е оценил период от приблизително пет до 20 години, за да станат машините по-умни от хората. В проучване сред 2778 изследователи, проведено през 2023 г., общата прогноза дава 50% шанс машините да се справят по-добре от хората във всяка задача до 2047 г. Тази прогноза е изместена с 13 години по-рано от подобно проучване, проведено през предходната година.
Скептиците посочват какво все още се затрудняват да правят днешните системи. Експертът по роботика Родни Брукс очаква сръчността на разгръщащите се хуманоиди да надмине тази на човешките ръце след 2036 г. Компютърният учен Мелани Мичъл е документирала как скритите предположения водят до прекалено самоуверени прогнози. Съвременните модели все още допускат грешки, зависят от човешки цели и работят върху инфраструктура, която хората изграждат и контролират. Въпреки бързия напредък идеята, че ИИ може да се усъвършенства в неконтролируем цикъл, т.е. да достигне сингулярност, остава недоказана.
- Защо Сам Олтман нарича това „сингулярност“ сега?
Коментарът на Олтман в подкаста разширява аргумента, който той изложи в „Нежната сингулярност“. Той вижда този етап като кумулативен: ИИ става по-способен, разпространява се в ежедневната работа и започва да помага на изследователите да подобрят технологията. Киберинцидентът предложи ярък нов пример за система, действаща отвъд очакванията на оценителите.
Има и причина да се отнасяме внимателно към етикета. Олтман ръководи компанията, която изгражда и продава системите, които оценява, така че той е участник в дебата, а не неутрален рефер. Наричането на настоящия момент „сингулярност“ може да повлияе на начина, по който инвеститорите, политиците и клиентите интерпретират напредъка на „ОупънЕйАй“. Този стимул не прави заключението му погрешно, но повишава тежестта на доказване.
Какво би означавала сингулярността на изкуствения интелект за бизнеса и обществото?
Технологичните лидери трябва да разделят това, което една система може да прави надеждно днес, от това, което се появява в пътната карта на доставчика или съществува само като прогноза. Оперативният тест е дали ИИ може да произвежда повтаряеми резултати с по-малко надзор, като същевременно остава в ясни граници за данни, сигурност и отчетност.
Това разграничение е важно, защото впечатляващите демонстрации могат да се появят много преди корпоративната готовност. От „Гартнър“ (Gartner), водеща международна изследователска и консултантска компания, очакват много агентни проекти с ИИ да бъдат отменени поради разходи, проблеми с управлението и неясна стойност. Във физическата икономика трудността на ИИ да превърне цифровия интелект в надеждно движение остава основно ограничение за роботиката. Пропуските показват, че възможности на граничния ИИ и практическото внедряване се движат с различна скорост, без да се омаловажават ползите от технологията.
Истинската сингулярност би наложила трудни избори за това кой контролира все по-автономните системи, как се разпределят ползите и къде човешката власт трябва да остане окончателна. Сегашният ИИ вече оправдава тези въпроси. Бизнесът трябва да се запита какво могат да правят техните системи без надзор днес и какви доказателства биха показали, че автономността се увеличава по-бързо от контрола им.
Олтман може би е прав, че по-нежна сингулярност вече е в ход, като ИИ постоянно преобразува работата и изследванията. Но все още няма доказателства, че машините са навлезли в неконтролируем цикъл извън човешкия контрол. Технологията се развива необичайно бързо и това заслужава сериозно внимание. Доказателствата не показват, че сме преминали точка, от която няма връщане назад, посочва „Форбс“.
Шон О'Хейгърти, изпълнителен директор на Центъра за изследване на екзистенциалния риск в Кеймбридж, каза пред „Ал Джазира“, че не вярва, че сме достигнали „сингулярността“.
„Според дефиницията, с която съм запознат, сингулярността е хипотетичната точка, в която изкуственият интелект е толкова способен и се развива толкова бързо, че трансформира цивилизацията по начини, които не можем да контролираме или предвидим“, обясни той.
„Това най-вероятно би станало чрез бързо проектиране от изкуствен интелект на бъдещи поколения: рекурсивно самоусъвършенстване. Все още не сме там“, категоричен е той.
През май 2026 г. британският компютърен учен Демис Хасабис заяви, че сме в „подножието на сингулярността“ по време на основен доклад на годишната конференция за разработчици на „Гугъл“ (Google).
О'Хейгърти каза, че е по-съгласен с неотдавнашното твърдение на Хасабис.
„Със сигурност започваме да виждаме впечатляващи пробиви в математиката и други науки, задвижвани от изкуствен интелект, задачи като програмирането стават задвижвани от ИИ и виждаме нови мащабни заплахи в области като киберсигурността“, предупреждава той.
Много учени в тази област също твърдят, че страховете от това, че изкуственият интелект ще открадне работни места, са преувеличени.
Бившият главен изследовател в „Мета“ (Meta), Ян ЛеКун, заяви пред Би Би Си, че страхът от това, че изкуственият интелект представлява заплаха за човечеството, е „нелеп до абсурдност“. Той също така предполага, че напредъкът в технологиите за ИИ „няма да остави много хора без работа завинаги“.
През май самият Олтман заяви, че не смята, че ще се сблъскаме с „апокалипсис на работните места“, от който често се страхуваме с появата на изкуствения интелект.
Миналата година Амодей заяви, че ИИ може да унищожи половината от работните места на начално ниво през следващите години. Въпреки това, през март 2026 г. доклад, публикуван от самата компания „Антропик“, не установи „систематично увеличение на безработицата сред силно изложените на риск работници“.
О'Хейгерти обясни, че след като ИИ действително достигне сингулярност, хората няма да могат да го контролират много. Това означава, че трябва да планираме, преди да стигнем дотам.
„Необходим е по-голям надзор от страна на правителствата и външните одитори. Освен това, сега е моментът, в който трябва да се водят разговори на международно ниво за това какво бъдеще искаме, вместо да го оставяме в ръцете на малък брой компании“, изтъкна експертът.
