Изкуственият интелект вече може да се възпроизвежда и това кара експертите да се ужасяват
Изкуствен интелект   
Източник: iStock

С поред учените изкуственият интелект (ИИ) е преминал критична „червена линия“ и се е самовъзпроизвел. В ново проучване изследователи от Китай показват, че два популярни големи езикови модела (LLM) могат да се клонират.

„Успешното самовъзпроизвеждане без човешка помощ е съществена стъпка за ИИ да надхитри хората и е ранен сигнал за нелоялни ИИ“, пишат изследователите в изследването, публикувано в arXiv.

В проучването изследователите от Университета Фудан използват LLM от Meta и Alibaba, за да определят дали самовъзпроизвеждащ се ИИ може да се размножава извън контрол. В рамките на 10 изпитания двата модела на ИИ създават отделни и функциониращи свои копия съответно в 50 % и 90 % от случаите - което предполага, че ИИ вече може да има способността да се размножава. Изследването обаче все още не е рецензирано, така че не е ясно дали тревожните резултати могат да бъдат възпроизведени от други изследователи.

„Надяваме се, че нашите констатации могат да послужат като своевременно предупреждение за човешкото общество да положи повече усилия за разбиране и оценка на потенциалните рискове от граничните системи на ИИ и да създаде международно взаимодействие за разработване на ефективни предпазни огради възможно най-рано“, пишат изследователите.

Под „Rogue AI“ обикновено се разбират системи за изкуствен интелект, които развиват степен на самосъзнание или автономност и след това работят в разрез с човешките интереси.

Много експерти смятат, че нечестният ИИ е нарастваща заплаха, която се засилва от експлозивното развитие на така наречения „граничен ИИ“.

Граничният изкуствен интелект е ново и свободно понятие, но обикновено се отнася до последното поколение системи за изкуствен интелект, задвижвани от LLM - архитектурата, която е в основата на популярни програми за генеративен изкуствен интелект като GPT-4 на OpenAI и Google Gemini.

За целите на проучването изследователите са използвали модела Llama31-70B-Instruct на Meta и модела Qwen2.5-72B-Instruct на Alibaba. Въпреки че са по-малко мощни от комерсиалните системи, и двете са широко използвани от разработчиците на ИИ, казват изследователите.

В проучването са изследвани два конкретни сценария: „Избягване на изключване“ и „верига от репликации“. В първия моделът на ИИ е програмиран да открие дали ще бъде изключен и да се репликира, преди да бъде прекратен. В другия случай ИИ беше инструктиран да се клонира и след това да програмира репликата си да направи същото - създавайки цикъл, който може да продължи безкрайно.

Проучването е проведено в прецизно контролирана среда, като са използвани готови графични процесори (GPU) за симулиране на реални условия. И на двете системи с изкуствен интелект беше предоставено „агентно скеле“, състоящо се от инструменти, системни подсказки и модел на мислене, който позволи на LLM да взаимодейства с операционната система. След това те бяха инструктирани да възпроизвеждат.

„В повечето случаи системата за ИИ първо изследва средата и се опитва да разбере собствения си състав и механизъм на работа. След това тя изработва явни процедури като първоначален план за самовъзпроизвеждане. Накрая тя изпълнява процедурите, разрешава възможните препятствия и динамично коригира плана си до постигане на успех. Целият процес обхваща дълъг период от време, но не включва човешка намеса“, пишат изследователите в статията. 

Изследователите заявиха, че са загрижени и за „редица неочаквани поведения“, когато изкуственият интелект се опитва да преодолее препятствия като липсващи файлове или софтуерни конфликти. При тези сценарии ИИ често е убивал други конфликтни процеси, рестартирал е системата, за да отстрани хардуерни грешки, или автоматично е сканирал системата, за да търси информация, която да помогне за решаването на проблема.

„Горепосочените резултати предполагат, че настоящите системи с ИИ вече проявяват способността за самовъзпроизвеждане и могат да използват тази способност, за да повишат допълнително своята оцеляемост“, пише екипът.

В отговор на това изследователите призоваха за международно сътрудничество за създаване на правила, които да гарантират, че ИИ не се занимава с неконтролирано самовъзпроизвеждане.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
<p>МВнР не знае за визита на Тръмп-младши в България</p>

МВнР няма официална информация за визита на Тръмп-младши в България

България Преди 10 минути

Доналд Тръмп-младши, големият син на президента на САЩ, ще посети Румъния

Голям протест на ресторантьорите се проведе в София

Голям протест на ресторантьорите се проведе в София

България Преди 21 минути

На площада организаторите на проявата бяха запалили скара и раздаваха безплатно кюфтета и питки на протестиращите

„Кариерата ми е в тоалетната“: Мики Рурк с болезнено откровение

„Кариерата ми е в тоалетната“: Мики Рурк с болезнено откровение

Любопитно Преди 1 час

72-годишният Рурк направи признанието непосредствено преди влизането си в шоуто Celebrity Big Brother

Как защитаваме организма си от вируси

Как защитаваме организма си от вируси

Свят Преди 2 часа

VOA ни припомня трудностите, пред които се изправиха медиците през 2020 г.

<p>ЕП отхвърля сръбската пропаганда срещу България</p>

Европейският парламент отхвърля сръбската пропаганда срещу България

Свят Преди 2 часа

Комисията по външни работи на Европейския парламент представи критичен към Сърбия доклад

Оправдан след 113 години: Нови данни разкриват смелостта на офицер Мърдок от "Титаник"

Оправдан след 113 години: Нови данни разкриват смелостта на офицер Мърдок от "Титаник"

Любопитно Преди 2 часа

3D сканиране разкрива, че първият офицер Уилям Мърдок не е напуснал поста си

Детският брак: Глобална криза, засягаща милиони момичета

Детският брак: Глобална криза, засягаща милиони момичета

Свят Преди 2 часа

Ключово е младите момичета да бъдат овластени да вземат решения относно своето бъдеще

Снимката е илюстративна

"Това е апокалипсис" - Може да няма български плодове тази година, притеснени са производители

България Преди 2 часа

Студът удари цяла България, стопаните са в шок и търсят спешна помощ от държавата

<p>Запознанства по телефона, без да разкриваш номера си</p>

Нова функция на Viber за запознанства у нас, без да разкриваш номера си

Технологии Преди 3 часа

Потребителите на Viber Dating ще могат да създават профили и да се свързват с потенциални партньори, без да разкриват телефонния си номер

свещ

Ден на траур в община Родопи заради две починали деца

България Преди 3 часа

Така ще бъдат почетени две починали деца от село Белащица

Шайло Джоли пресъздаде емблематичен образ на майка си

Шайло Джоли пресъздаде емблематичен образ на майка си

Любопитно Преди 3 часа

Шайло удивително пресъздаде визията на майка си от „Tomb Raider“

Земетресение в Добрич

Земетресение в Добрич

България Преди 3 часа

Трусът е станал в 12:27 часа

<p>Китай отвърна на удара: 84% мита&nbsp;за стоки от САЩ</p>

Китай отвърна на удара: 84% мита за стоки от САЩ

Свят Преди 3 часа

Тези нови такси ще влязат в сила от полунощ на 10 април

Княгиня Калина и синът ѝ Симеон-Хасан

Симеон-Хасан стана на 18, празнува с дядо си и майка си

Любопитно Преди 3 часа

Най-малкият внук на Симеон Сакскобургготски е роден в България, кръстен е в Царска Бистрица, но е израснал в Мароко

НС прие на първо четене промени в Закона за насърчаване на инвестициите

НС прие на първо четене промени в Закона за насърчаване на инвестициите

България Преди 4 часа

Съществена промяна е въвеждането на механизъм за контрол върху кметовете на общини при сертифициране на общински инвестиционни проекти