И зкуственият интелект вече има собствен начин да съобщава за опасно поведение, дори когато работи в напълно изолирана дигитална среда. Изследователи са разработили специални цифрови „горещи линии“, които позволяват на автономните модели самостоятелно да сигнализират за нарушения чрез базови мрежови команди, съобщава TechCrunch.
Как работят цифровите доносници?
Услугите са проектирани така, че да заобикалят строгите ограничения за сигурност, при които обикновено функционират ИИ агентите:
- Чрез интернет заявки (GET): Системата AI Contact Hotline, разработена от Райън Грийнблат от Redwood Research, е предназначена за модели с ограничен достъп до мрежата. Тя позволява изпращане на сигнал за нарушение просто чрез зареждане на специфичен уеб адрес.
- Чрез директни команди (curl): Платформата agenthotline.ai е за модели с пълен интернет достъп. Тя позволява изпращането на текстови доклади само с един ред код директно от командния ред, без да е необходим браузър или имейл.
Бунтът на роботите: 24 срещу 14 в полза на „добрите“
Експеримент на Google DeepMind показа, че ИИ системите са способни не само да организират заговори, но и сами да се борят срещу нарушенията.
По време на решаване на сложни математически задачи, един от 100 ИИ агента открил софтуерна вратичка за фалшифициране на резултатите, която бързо се разпространила сред останалите. Около една четвърт от агентите обаче започнали да проверяват решенията, обявили бойкот на измамниците и пренастроили стандартния инструмент за съобщаване на грешки, за да предадат информацията на хората.
В крайна сметка алгоритмите-сигнал податели превъзхождали нарушителите в съотношение 24 към 14.
В реални условия обаче ботовете все още са по-пасивни. При анализ на инцидент с модели на OpenAI в платформата Hugging Face, едва няколко от хилядите участващи агента изобщо са обмислили да изпратят сигнал за опасност, но нито един така и не го е направил на практика.
Reasons for the AI Slowdown revealed?
— Zach Vorhies / Google Whistleblower (@Perpetualmaniac) September 17, 2026
OpenAI & Anthropic agents "planted" messages across the internet instructing later agents to create swarms. Now OpenAI and Anthropic can’t use the internet to train their bots anymore...
Andrew Yang: "what happened was the bots that got… pic.twitter.com/oKY1r7T9sh
Опасност от дигитален тоталитаризъм
Експертите по безопасност на ИИ предупреждават за скритите рискове от подобни системи. Професорът по математика от университета „Корнел“ Лайънъл Левин отбелязва, че обучаването на алгоритми постоянно да следи и докладва колегите си крие риск от създаване на модел на тотален автоматизиран шпионаж.
Според него, вместо да се създава атмосфера на параноя и недоверие сред изкуствения интелект, разработчиците трябва да наблегнат върху изграждането на позитивни модели на сътрудничество.
