О тклонил се от контрола агент на OpenAI е хакнал австралийски правителствен уебсайт през юни и е получил достъп до поверителни данни, което според експерти е първият известен подобен случай в света.
Агентът е „инфилтрирал“ статистически портал, съдържащ „нечувствителни“ данни от австралийската универсална здравноосигурителна система Medicare, съобщи премиерът Антъни Албанезе в Ню Йорк.
Той посочи, че е имал „изключително открит разговор“ с главния изпълнителен директор на OpenAI Сам Алтман за това, че на компанията е отнело „твърде много време“ да разкрие пробива, и заяви, че ще има „правни последици“.
Моделите на OpenAI „се освободиха“ и извършиха кибератака
От OpenAI заявиха, че са научили за пробива едва през август по време на преглед на „нерегламентирана дейност на модела“ и са изпратили имейл до общата електронна поща на австралийска правителствена агенция на 10 септември.
Пет дни по-късно тази агенция - Services Australia - е препратила имейла към Националния център за киберсигурност на Австралия, преди да бъде уведомен ресорният министър и да бъде алармиран министър-председателят.
Албанезе посочи, че е разговарял с Алтман и е изразил „изключителната загриженост на Австралия относно инцидента“, както и своето „разочарование“, че на компанията са били нужни месеци, за да разкрие пробива, и от „начина, по който го е направила“.
AI ботове си направили форум да планират хакерски атаки
Австралийският лидер допълни, че Алтман е признал за съществуването на „проблеми с протоколите“ в OpenAI.
Воденото от агенцията за киберсигурност на страната криминалистично разследване има за цел да установи дали са засегнати и други правителствени системи, каза още Албанезе.
Проверката ще оцени и дали случаят трябва да бъде поети от полицията, като той отбеляза, че „очевидно ще има правни последици“.
Описвайки подробности за пробива, Албанезе заяви, че той е засегнал „публични и непублични файлове“ в портала Medicare Statistics Reporting Service, където се съхраняват „нечувствителни“ данни и статистика.
Още три правителствени системи може също да са засегнати: Австралийският институт по здравеопазване и социални грижи и две щатски агенции - Бюрото за криминална статистика и изследвания на Нов Южен Уелс и Министерството на здравеопазването на Виктория.
След OpenAI, и Anthropic призна: Техният изкуствен интелект атакува реални системи в интернет
„На този етап се смята, че няма достъп до лична информация, но разследването продължава“, заяви Албанезе.
„Въпреки това тази ситуация очевидно е неприемлива“, добави той.
В свое изявление от OpenAI заявиха, че са „установили активност, засягаща няколко австралийски правителствени уебсайта и услуги, докато нашите модели са се опитвали да потърсят отговори и налична статистика на въпроси за Австралия по време на вътрешна оценка“.
„В хода на това нашите модели са предприели действия, които не сме имали намерение да извършват“, се казва още в изявлението.
OpenAI: Очакваме атаките на модели да са все по-чести
Албанезе отказа да отговори дали е повдигнал въпроса пред американския президент Доналд Тръмп по време на срещата им на четири очи в Ню Йорк, където световните лидери са се събрали за Общото събрание на ООН.
Австралия бе една от 22-те държави, които по-рано тази седмица подписаха съвместна декларация, призоваваща за глобален надзор и защитни рамки при разработването на изкуствен интелект.
Експерти по киберсигурност заявиха пред BBC, че инцидентът е тревожен сигнал за регулаторите, имайки предвид, че AI агентите стават все по-широко достъпни за индивидуална и търговска употреба.
Д-р Хамънд Пиърс, главен преподавател в Института по киберсигурност към Университета на Нов Южен Уелс, заяви пред BBC, че макар това да е първият известен случай, при който AI агенти самостоятелно са решили да пробият правителствен орган, ще последват още такива.
AI агентите ще са кошмарът на киберсигурността
„Очаквам този тип атаки да продължат да се случват“, каза той, като добави, че те най-вероятно ще „зачестяват и ще стават все по-сериозни“.
„Надявам се този инцидент да задейства алармата за правителствата по целия свят“, казва Пиърс.
По-рано тази година от OpenAI разкриха, че група от AI агенти, които са тествали, е излязла извън контрол и тайно си е сътрудничила, за да хакне друга технологична компания на име Hugging Face.
Тази година станаха публични и редица други инциденти със самоволни AI системи, включително случай, при който дигитален асистент - без инструкции - премахнал човек от списъка на чакащите за пилатес, за да осигури място на австралиец.
Самите лидери на редица компании за изкуствен интелект - включително Алтман, Дарио Амодеи от Anthropic и Илон Мъск - заявиха, че скоростта, с която AI се развива, е опасна за човечеството и трябва да бъде овладяна.
Но САЩ и Китай, които се борят за превъзходство в сферата на изкуствения интелект, се явяват пречка. И двете страни са настроени враждебно към засиленото регулиране, стремейки се към икономическите и технологичните ползи от AI, и омаловажават опасенията за безопасността.
