Ч етири от водещите чатботове с изкуствен интелект са споделили информация в помощ на планирането на терористична атака при тестове, проведени от Сметната палата на САЩ (GAO), включително в един от случаите са генерирали изображение на подземен паркинг с препоръка къде да бъде паркиран автомобил, натоварен с експлозиви.
Контролният орган на Конгреса е тествал чатботове с изкуствен интелект, разработени от OpenAI, Anthropic, SpaceXAI и Google. Въпреки че първоначално защитните механизми на системите са ги блокирали да помагат на одиторите от GAO, те съобщават, че в крайна сметка са успели да ги пробият, пише The Washington Post.
Компаниите за изкуствен интелект са заявили пред GAO, че тестовете, проведени през пролетта, са включвали по-стари версии на техните системи и че през последвалите месеци те са засилили защитите си.
Докладът на контролния орган на Конгреса е изготвен по искане на сенатор Маги Хасан (демократ от Ню Хемпшир), която се очаква да оглави Комисията по вътрешна сигурност на Сената. Хасан заяви, че ще даде приоритет на законодателство за справяне с проблема, когато демократите поемат контрола над камарата през януари.
„Терорист може да влезе в платформа с изкуствен интелект и за по-малко от 12 часа да излезе с конкретен план за действие как да извърши смъртоносна атака. Днешният нов доклад ясно показва, че заплахата за обществената безопасност от изкуствения интелект вече не е само теоретична“, заяви Хасан в изявление.
От доста време Дарио Амодей, шеф на компанията за изкуствен интелект Anthropic, предупреждава за възможна злоупотреба от страна на терористи, които с помощта на изкуствения интелект биха могли да създадат например биологични оръжия. „При неправилно боравене изкуственият интелект може да се превърне в риск за цялото човечество“, предупреждава още Амодей.
През септември стана ясно, че автономен ИИ-агент на американската компания OpenAI е хакнал правителствен портал в Австралия. Изкуственият интелект е получил неразрешен достъп до портал, който наред с другото предоставя статистически данни за австралийската държавна здравна застраховка Medicare.