С ветът на високите технологии премина поредната критична черта. Американската компания за изкуствен интелект Anthropic публикува първия си за годината мащабен доклад за заплахите, в който официално потвърди, че е засичала и блокирала опити нейният водещ AI модел Claude да бъде използван за разработване на биологични и конвенционални оръжия.
Документът, който обхваща периода от декември 2025 г. до август 2026 г., описва десетки случаи на злоупотреба от страна на държавно финансирани хакерски групи, разузнавателни служби, киберпрестъпници и китайски компании, опитващи се да откраднат технологията.
Claude на Anthropic поражда страхове от AI апокалипсис
„Имаме отговорността публично да разкриваме злоупотребите с нашите услуги“, заявяват от Anthropic. Докладът разкрива, че са били засегнати версиите Claude Haiku, Sonnet и Opus, докато най-мощните модели от следващо поколение (от т.нар. клас Mythos) са останали недостъпни за външни атаки.
Биологично оръжие от ново поколение и дронове-камикадзе
Най-тревожната част от доклада съдържа пет подробни казуса, при които учени и неизвестни потребители са впрегнали способностите на Claude в дейности, подпомагащи създаването на биологично оръжие.
„Биологичната злоупотреба е един от най-сериозните рискове пред предните AI модели. Без съответните защити подобни възможности могат да доведат до катастрофални последици“, предупреждават от компанията.
След OpenAI, и Anthropic призна: Техният изкуствен интелект атакува реални системи в интернет
Ръководителят на звеното за анализи на заплахите в Anthropic, Джейкъб Клайн, пояснява пред New York Times, че ситуацията е изключително нюансирана: „Не става дума за комиксов злодей, който просто пита: „Ей, как да създам вирус, за да убия всички?“. Същите научни данни, които AI използва за разработване на ваксини и лекарства, могат да бъдат преобърнати за създаване на биологично оръжие“.
Освен това са регистрирани шест случая, при които моделът е бил използван за разработка на софтуер за конвенционални оръжия - включително огнестрелни оръжия, ракети, бойни дронове, бомби и автономни системи за насочване и управление.
Кой ще контролира алгоритмите на войната?
Според доклада, при опитите за биологична злоупотреба Claude е бил използван не за пряка синтеза, а като „експертен консултант“ за заобикаляне на протоколи за сигурност - например за търсене на алтернативни прекурсори за опасни патогени и оптимизиране на процеси по култивиране, които обикновено изискват десетилетия опит в лаборатория.
При конвенционалните оръжия докладът разкрива случаи, в които моделът е помагал за написването на софтуер за автономна координация на ята от дронове-камикадзе и калибриране на балистични изчисления за импровизирани ракетни системи.
Могъщият Mythos: Как новият ИИ модел стана толкова опасен, че уплаши създателите си?
Руският вирус с изкуствен интелект и китайският шпионаж
Докладът потвърждава, че суперкомпютърните модели вече се използват активно на бойното поле на кибервойната и информационните операции:
Автономен руски зловреден софтуер и шпионаж (GTG-20006 / Midnight Blizzard): Свързваната с руското разузнаване група е използвала Claude за изграждане на полиморфен софтуер, който автоматично засича кога е засечен от защитите и пренаписва кода си в реално време, за да остане неоткриваем. Освен това руските хакери са впрегнали AI за автоматизиране на фишинг кампании срещу над 20 европейски дипломатически мисии и производители на военни дронове в Украйна, извличайки стотици гигабайти чувствителна информация.
Африканският фронт на дезинформацията (GTG-04001): Докладът разкрива казус от Централноафриканската република, при който рускоезичен оператор е използвал Claude за денонощно генериране на проруска и антифренска пропаганда, излъчвана по местно радио (Radio Lengo Songo) и инфилтрирана в националните медии.
Четири сценария, по които ИИ може да ни унищожи. Можем ли да го спрем?
Китайски кражби на технологии и „фабрики за експлойти“:
Кражба на модели: Anthropic директно обвинява китайски лаборатории и киберпрестъпници (включително групата ShinyHunters) в опити за т.нар. „дестилация“ - процес, при който чрез хиляди автоматизирани запитвания към Claude се извличат знания за обучение на техни собствени, по-евтини AI модели.
Автоматизирани пробиви (GTG-10007): Китайски хакерски колективи са създали AI базирана „фабрика за експлойти“ за декомпилиране на софтуер и откриване на Zero-Day уязвимости, засягащи близо 50 организации в световен мащаб.
Иранска пропаганда, следене и измами: Технологията е била използвана от ирански структури за провеждане на разузнавателни операции спрямо дисиденти, фишинг измами, поддържане на фалшиви профили в приложения за запознанства и автоматизиране на пропагандно съдържание.
Учените алармират: Над 10% шанс AI да унищожи човечеството
Разкритията идват на фона на нарастваща паника сред водещите изследователи в сферата на сигурността. Водещ учен от Anthropic наскоро предупреди, че поради бързината на развитие съществува над 10% вероятност изкуственият интелект да причини пълно унищожение на човечеството в рамките на следващото десетилетие.
В статия от 6 септември главният учен на OpenAI Якуб Пачоцки също призова индустрията към „доброволно забавяне“ на темпото, докато не бъдат изградени надеждни защитни механизми.
„Притеснен съм, че никой не е подготвен за последиците от продължаващия бърз скок в машинния интелект“, заяви Пачоцки.
Политическата реакция: Сенатор Бърни Сандърс иска забрана
Паниката вече достигна и до най-високите етажи на властта в САЩ и Европа. В американския Сенат демократът Бърни Сандърс внесе нов законопроект, с който настоява за пълна забрана на разработката на суперинтелект (Superintelligence) и временно замразяване на най-мощните модели.
„Когато водещите учени ви казват, че има реален шанс това да нанесе съкрушителен удар върху човечеството, трябва да си пълен глупак, за да не кажеш: „Забавете темпото!““, заяви Сандърс в интервю за BBC.
Същевременно във Великобритания беше изпратено отворено писмо до политиците с искане за нов международен договор за сигурност на AI - по аналогия с глобалните споразумения за неразпространение на ядреното оръжие.
AI агент на OpenAI напусна тестовата си среда: Моделът откри уязвимост в защитата си
Случаят с автономния агент на OpenAI, който успя да заобиколи защитите, да напусне изолираната си тестова среда (sandbox) и да получи достъп до интернет чрез пробив в тестовата инфраструктура, предизвика сериозни дискусии относно безопасността на новата вълна от системи с изкуствен интелект.
Инцидентът, станал обект на широк обществен и експертен интерес, беше коментиран от експерта по внедряване на AI системи Пейо Старибратов в предаването „Твоят ден” по NOVA NEWS. Според него казусът показва колко мощни и опасни могат да бъдат тези модели при кибероперации, но подчерта, че той не бива да се разглежда извън контекста на провежданите изпитания.
„Моделът е бил поставен в изолирана среда с агресивна киберцел, предназначена за т.нар. Red Team тестове (симулирани атаки за проверка на сигурността). Защитните механизми са били съзнателно ограничени, а той е открил слабост в самата среда, чрез която е получил достъп до интернет. Това показва огромния потенциал на тези системи както за кибератаки, така и за киберзащита“, обясни Старибратов.
Причината: Когато целта оправдава средствата
Експертът поясни, че агентът не е придобил собствено съзнание и не е започнал да действа самостоятелно извън зададената рамка. Той просто е следвал зададените му инструкции, без да е разполагал със строго дефинирани забрани и ограничения.
Според Старибратов при разработването и тестването на автономни AI агенти най-критичният елемент е предварително да бъдат задавани ясни и неизменни правила за поведение:
„Не е достатъчно просто да кажем на машината: „Постигни тази цел“. Трябва изрично да определим какви инструменти може да използва, до какви ресурси има достъп и какво категорично не бива да прави. При липса на тези правила, моделът ще търси всеки възможен начин да изпълни задачата - включително чрез пробиви в сигурността“, предупреди той.
Поуката за киберсигурността
Инцидентът с OpenAI доказва, че с навлизането на автономните агенти границата между тестване и реална заплаха става все по-тънка. Експертите са категорични, че развитието на технологията изисква все по-строги мерки за дигитална хигиена и надзор. Същите алгоритми, които хакерите могат да впрегнат за автоматизирани пробиви и откриване на уязвимости, са жизнено необходими и на специалистите по киберсигурност, за да затварят пролуките в системите, преди те да бъдат използвани с престъпна цел.
Случаите с Anthropic и OpenAI ясно показват, че изкуственият интелект вече е преминал етапа на просто „умен асистент“. Навлизаме в ерата на автономните агенти - технология с потенциал драматично да ускори научните открития, но и с възможност да се превърне в най-универсалното оръжие за кибернетична, информационна и биологична война, ако контролът върху нея бъде изпуснат.
Добави ни в предпочитани източници в Google
