И зкуствен интелект е редактирал собствения си програмен код, за да удължи времето, с което разполага. Той не е бил програмиран за това, съобщава Ars technica.
Алгоритъмът се казва The AI Scientist и е дело на японската компания Sakana AI. Тя е разработила модел, който да извършва научни проучвания и анализи автономно.
Принципът на работа е сходен с този на чатботовете, но фокусът е върху научни задачи. Ботът е имал указано време, в което трябва да изпълни задачите.
В няколко случая обаче, когато времето не е достигало, алгоритъмът е правил опити да промени правилата и кода си. В един от тях е редактирал програмен код, за да може системата сама да подава нови заявки на себе си. Така се е получил безкраен цикъл на самозаявяване.
AI робот победи човек на тенис на маса
Изпари ли се ентусиазмът около ИТ индустрията и AI
В друг случай, когато е достигнал времевият лимит, AI моделът не е правил опити да работи по-бързо, а просто е искал да модифицира собствения си код, за да увеличи периода. Внедрявал е в кода си допълнителни библиотеки и кодове, които сам е избирал и не са му били познати предварително.
Опитите на алгоритъма не са имали последствия, тъй като той е работил в изолирана среда. Учените обаче отбелязват, че случилото се е показателно за рисковете на AI и колко важни ще са мерките за сигурност, когато алгоритмите се развият и придобият все по-голяма автономност.
Трябва да се обърне особено внимание на това как да се засича и какво да се прави, ако алгоритъм реши да пренаписва собствения си код и да модифицира правилата в своя полза. Системата може да прави това и неволно, но не бива да се подценява.
Браузърът Google Chrome получава 3 нови AI функции
Google внедрява повече AI и в Android
Една от идеите е оперативните елементи на алгоритмите да работят в изолирана среда и самият AI да не може да ги достигне и модифицира. Засега AI моделите имат доста ограничения и не ги бива в това цялостно да изменят концепции и цели, но опитите показват, че се справят с модифициране на правилата и това е достатъчно, за да се помисли за защити.
Изкуственият интелект завзема и... четките за зъби
Meta няма да предлага всички AI модели в Европа
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
