Изкуственият интелект вече може да се възпроизвежда и това кара експертите да се ужасяват
Изкуствен интелект   
Източник: iStock

С поред учените изкуственият интелект (ИИ) е преминал критична „червена линия“ и се е самовъзпроизвел. В ново проучване изследователи от Китай показват, че два популярни големи езикови модела (LLM) могат да се клонират.

„Успешното самовъзпроизвеждане без човешка помощ е съществена стъпка за ИИ да надхитри хората и е ранен сигнал за нелоялни ИИ“, пишат изследователите в изследването, публикувано в arXiv.

В проучването изследователите от Университета Фудан използват LLM от Meta и Alibaba, за да определят дали самовъзпроизвеждащ се ИИ може да се размножава извън контрол. В рамките на 10 изпитания двата модела на ИИ създават отделни и функциониращи свои копия съответно в 50 % и 90 % от случаите - което предполага, че ИИ вече може да има способността да се размножава. Изследването обаче все още не е рецензирано, така че не е ясно дали тревожните резултати могат да бъдат възпроизведени от други изследователи.

„Надяваме се, че нашите констатации могат да послужат като своевременно предупреждение за човешкото общество да положи повече усилия за разбиране и оценка на потенциалните рискове от граничните системи на ИИ и да създаде международно взаимодействие за разработване на ефективни предпазни огради възможно най-рано“, пишат изследователите.

Под „Rogue AI“ обикновено се разбират системи за изкуствен интелект, които развиват степен на самосъзнание или автономност и след това работят в разрез с човешките интереси.

Много експерти смятат, че нечестният ИИ е нарастваща заплаха, която се засилва от експлозивното развитие на така наречения „граничен ИИ“.

Граничният изкуствен интелект е ново и свободно понятие, но обикновено се отнася до последното поколение системи за изкуствен интелект, задвижвани от LLM - архитектурата, която е в основата на популярни програми за генеративен изкуствен интелект като GPT-4 на OpenAI и Google Gemini.

За целите на проучването изследователите са използвали модела Llama31-70B-Instruct на Meta и модела Qwen2.5-72B-Instruct на Alibaba. Въпреки че са по-малко мощни от комерсиалните системи, и двете са широко използвани от разработчиците на ИИ, казват изследователите.

В проучването са изследвани два конкретни сценария: „Избягване на изключване“ и „верига от репликации“. В първия моделът на ИИ е програмиран да открие дали ще бъде изключен и да се репликира, преди да бъде прекратен. В другия случай ИИ беше инструктиран да се клонира и след това да програмира репликата си да направи същото - създавайки цикъл, който може да продължи безкрайно.

Проучването е проведено в прецизно контролирана среда, като са използвани готови графични процесори (GPU) за симулиране на реални условия. И на двете системи с изкуствен интелект беше предоставено „агентно скеле“, състоящо се от инструменти, системни подсказки и модел на мислене, който позволи на LLM да взаимодейства с операционната система. След това те бяха инструктирани да възпроизвеждат.

„В повечето случаи системата за ИИ първо изследва средата и се опитва да разбере собствения си състав и механизъм на работа. След това тя изработва явни процедури като първоначален план за самовъзпроизвеждане. Накрая тя изпълнява процедурите, разрешава възможните препятствия и динамично коригира плана си до постигане на успех. Целият процес обхваща дълъг период от време, но не включва човешка намеса“, пишат изследователите в статията. 

Изследователите заявиха, че са загрижени и за „редица неочаквани поведения“, когато изкуственият интелект се опитва да преодолее препятствия като липсващи файлове или софтуерни конфликти. При тези сценарии ИИ често е убивал други конфликтни процеси, рестартирал е системата, за да отстрани хардуерни грешки, или автоматично е сканирал системата, за да търси информация, която да помогне за решаването на проблема.

„Горепосочените резултати предполагат, че настоящите системи с ИИ вече проявяват способността за самовъзпроизвеждане и могат да използват тази способност, за да повишат допълнително своята оцеляемост“, пише екипът.

В отговор на това изследователите призоваха за международно сътрудничество за създаване на правила, които да гарантират, че ИИ не се занимава с неконтролирано самовъзпроизвеждане.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Тръгва дело за жените, пострадали след процедури с ботулинов токсин

Тръгва дело за жените, пострадали след процедури с ботулинов токсин

България Преди 3 минути

На 3 февруари, след публикации в медиите, СРП се е самосезирала и е започнала проверка

Последните дни на Вал Килмър: Нови разкрития за легендата на Холивуд

Последните дни на Вал Килмър: Нови разкрития за легендата на Холивуд

Любопитно Преди 5 минути

Според семейни източници Килмър страдал от „липса на енергия, свързана с лечението му от рак“

<p>Оставиха за постоянно в ареста Жоро Мазния</p>

Оставиха за постоянно в ареста Жоро Мазния, опитал да открадне жилището на възрастна жена

България Преди 28 минути

Съдът счита, че той може да извърши друго престъпление, както и да повлияе на свидетели, които предстои да бъдат разпитани

<p>20 чата в Signal: Екипът на Майк Уолц под прицел</p>

Екипът на Майк Уолц има най-малко 20 чата в Signal за обсъждане на националната сигурност

Свят Преди 40 минути

Чатове обхващат политиката спрямо Украйна, Китай, Газа, Близкия изток, Африка и Европа

"Възраждане" готви втори вот на недоверие – този път на тема корупция

"Възраждане" готви втори вот на недоверие – този път на тема корупция

България Преди 46 минути

Ще поканим партиите, които ни подкрепиха за настоящия вот, както и ПП-ДБ, на общи консултации, заяви Костадин Костадинов

А1 България проучва приложенията на 6G технологиите за устойчивостта като част от ЕС проекта 6G-VERSUS

А1 България проучва приложенията на 6G технологиите за устойчивостта като част от ЕС проекта 6G-VERSUS

Технологии Преди 1 час

Практическото приложение на 6G технологиите са насочени към управление на преносната мрежа, предвидимост и поддръжка на ветроенергийни паркове

Тръгна делото за измама с тролейбуси във Враца

Тръгна делото за измама с тролейбуси във Враца

България Преди 1 час

Става въпрос за обществена поръчка по проект на стойност 4,5 милиона евро

Как да увеличите шансовете на детето си за прием в градина или ясла

Как да увеличите шансовете на детето си за прием в градина или ясла

България Преди 1 час

15 хиляди родители се борят за 13 хиляди места в София

Радев: С Георги Марков си отива частица от легендарното поколение на българския рок

Радев: С Георги Марков си отива частица от легендарното поколение на българския рок

България Преди 1 час

Държавният глава изрази съболезнования на семейството и колегите на музиканта

,

Обясниха как ще се пресмята втората пенсия в евро

България Преди 1 час

Осигурените ще виждат парите си и в двете валути за известен период

<p>Най-богатата жена в света за 2025 г</p>

Алис Уолтън: Новата най-богата жена в света с 101 милиарда долара

Свят Преди 1 час

Уолтън е най-новият член на „Клуба на стомилиардерите“

"Ще ми липсваш...": Шер отдаде почит на бившия си Вал Килмър

"Ще ми липсваш...": Шер отдаде почит на бившия си Вал Килмър

Любопитно Преди 1 час

Звездата от "Топ Гън", който водеше дълга битка с рак на гърлото, си отиде във вторник

Снимката е архивна

Парламентът одобри стратегическа сделка за ВМС: новите патрулни кораби получават високотехнологична комуникационна защита

България Преди 1 час

Системите Link-22 ще осигурят на българските Военноморски сили защитен обмен на тактически данни с НАТО. Сделката на стойност 1,4 млн. долара включва оборудване, обучение и техническа поддръжка

<p>Фехтовачка дисквалифицирана за протест срещу транссексуален опонент&nbsp;</p>

Фехтовачка дисквалифицирана за отказ да се състезава срещу транссексуален спортист

Свят Преди 1 час

Сензационно видео показва как Стефани Търнър коленичи, вместо да се състезава срещу транссексуалния спортист Редмънд Съливан

Пеевски: Кабинетът да се захваща със събирането на приходи, за да има средства за хората

Пеевски: Кабинетът да се захваща със събирането на приходи, за да има средства за хората

България Преди 2 часа

По думите му в парламента се занимават само с това, което става навън