- Няколко служители на Google DeepMind напускат компанията в знак на протест срещу разширяването на договорите за използване на изкуствен интелект от американските и израелските военни.
- Бивши служители предупреждават, че недостатъчният човешки контрол и бързото внедряване на ИИ могат да доведат до опасни грешки при избора на военни цели.
- Google заявява, че спазва принципите си за отговорно използване на ИИ, но критиците се съмняват в ефективността на надзора и възможността компанията да контролира военните приложения на технологиите си.
Google experiences resignation backlash over AI military contracts https://t.co/khYOtD5eHK
— BBC News (World) (@BBCWorld) October 21, 2026
Google е изправена пред недоволство от страна на някои свои служители заради използването на технологиите ѝ за изкуствен интелект във военната сфера.
BBC разговаря с няколко служители в технологичния сектор, които наскоро са напуснали или в момента напускат Google DeepMind, подразделението на Google, занимаващо се с изкуствен интелект (ИИ). Причината са опасенията им относно военните договори на технологичната компания.
Сред тях е София Лигуори, инженер-изследовател, базирана в Лондон. Тя напусна Google DeepMind тази седмица и разказа пред BBC за притесненията си в ексклузивно интервю, въпреки че договорът ѝ ограничава възможността да го направи.
„Когато осъзная, че компанията ми все повече настоява за използване на системи с изкуствен интелект във военни операции, се срамувам, че работя в Google“, заяви Лигуори, като подчерта, че изразява личното си мнение.
В отговор говорител на Google заяви пред BBC: „Работим с организации от публичния сектор по целия свят и следваме последователна процедура за разглеждане и сключване на тези договори, включително за спазване на политиките ни за приемливо използване и на принципите ни за изкуствения интелект.
Разполагаме и със специални канали, чрез които служителите могат безопасно да изразяват всякакви притеснения, от въпроси, свързани с бизнес етиката, до нарушения на правилата. Освен това имаме строги политики на работното място, които забраняват всякаква форма на ответни действия.“
Google е една от няколкото технологични компании, сключили договори с американските военни по-рано тази година за внедряване на изкуствен интелект в класифицирани военни среди. Министърът на отбраната на САЩ Пийт Хегсет превърна интегрирането на ИИ във въоръжените сили в основен приоритет, като заяви, че администрацията на Доналд Тръмп ще изгради „военна сила, поставяща изкуствения интелект на първо място“.
Технологиите с изкуствен интелект обаче се развиват бързо, а критиците поставят под въпрос дали са достатъчно надеждни за използване във военни действия без допълнителни изпитания, по-строги предпазни механизми и човешки контрол.
След три години работа в компанията Лигуори заяви, че е решила да напусне заради разширяващото се сътрудничество на Google с американските и израелските военни. „Не съм съгласна с тази посока на развитие и това ме накара да загубя вяра, че компанията ми се придържа към заявените от нея етични ценности“, каза тя.
Според принципите на Google за изкуствения интелект тези ценности включват внедряване на технологията под „човешки надзор“ и съобразяването ѝ с „международното право и правата на човека“. Бивши и настоящи служители на компанията, както и експерти, с които BBC разговаря, обаче заявиха, че са обезпокоени от степента на човешкия контрол в критични моменти.
Служителите в технологичния сектор посочват, че са особено притеснени от военните споразумения за използване на ИИ, подписани тази година, тъй като те значително разширяват обхвата на приложенията, за които Пентагонът може да използва технологията.
Андреас Кирш, изследовател в областта на изкуствения интелект, също напусна Google DeepMind по-рано този месец заради своите опасения.
Кирш заяви пред BBC, че според него „механизмите за управление и надзор в Google не са достатъчни или не са достатъчно ефективни, за да гарантират безопасното и отговорно използване на ИИ във военна среда и при класифицирани дейности“, нито „за безопасното разработване на изкуствен свръхинтелект в бъдеще“.
„Изглежда, че Google няма право да контролира или да налага вето върху начина, по който Пентагонът използва нейния ИИ, а също така изглежда, че компанията има ограничена представа как се внедрява технологията“, добави той.
Кой ще контролира алгоритмите на войната?
През последните няколко години американските военни внедриха множество технологии с изкуствен интелект, за да подобрят бойните си способности.
Най-известният пример е Maven Smart Systems, основната софтуерна платформа на Пентагона за организиране на разузнавателна информация и данни.
Разработена от американската отбранителна компания Palantir, платформата използва изкуствен интелект, за да помага на военните да избират и идентифицират цели за поразяване. Palantir е интегрирала в Maven технологии на няколко водещи компании за изкуствен интелект, което е позволило значително ускоряване на някои процеси.
Генерал-лейтенантът от резерва Джак Шанахан, бивш директор на проекта Maven, заяви, че изглежда преобладава следната „философия“: „Да внедрим технологията за изкуствен интелект възможно най-бързо и в максимално широк мащаб, потенциално за сметка на задълбочеността и дисциплината при изпитването и оценяването ѝ.“
Пентагонът обаче продължава да настоява, че внедряването на технологии с изкуствен интелект е от съществено значение за спечелването на войни. „В ерата на изкуствения интелект победата се определя от скоростта“, заяви по-рано тази година Емил Майкъл, заместник-министър на отбраната на САЩ.
Договорът на Google с Пентагона, подписан по-рано тази година, позволява технологията на компанията да се използва за класифицирани военни дейности. В споразумението се посочва, че моделите на Google за изкуствен интелект могат да се използват за „всякакви законни цели на правителството“ и „не следва да се използват за масово наблюдение на населението в страната или за автономни оръжия, включително при избора на цели, без подходящ човешки надзор и контрол“.
Подобни договори бяха сключени и с OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартъпа Reflection. Те позволяват внедряването на технологии с изкуствен интелект в различни военни области, включително транспорт, планиране и операции на бойното поле.
С бързото развитие на технологиите нарастват и опасенията относно използването на ИИ във военни действия.
„Изкуственият интелект съкращава времето, с което разполага операторът, за да вземе решение, защото работи много по-бързо от човек. Това е особено рисковано в среда с високо ниво на стрес“, заяви Сара Шокър, бивш ръководител на екипа по геополитика на OpenAI.
„Когато има стотици цели, избрани от изкуствен интелект, и малко време за реакция, за човешкия оператор е почти невъзможно да прегледа задълбочено резултатите на системата и да открие евентуални грешки“, каза още Шокър.
Google обеща да не прави оръжия с изкуствен интелект
Служители на Google са заявили пред BBC, че се страхуват да говорят открито за безопасността на ИИ и използването му във военни действия, тъй като трудовите им договори им забраняват публично да критикуват компанията.
„По принцип нямам право да критикувам Google до края на живота си“, заяви София Лигуори пред BBC. Тя обаче решила да го направи, „защото смятам, че е важно тези неща да станат известни, а също така мисля, че говоренето за факти не е критика“.
Лигуори добави, че в Google „хората се страхуват от ответни действия и от това да изложат кариерата си на риск. Имаш чувството, че те наблюдават и че не можеш да говориш“.
Настоящ служител на Google DeepMind, пожелал анонимност от страх от ответни действия, заяви пред BBC, че „много мотивирани служители, които са се присъединили към компанията заради първоначалната ѝ мисия, може да напуснат, но има и поток от хора в началото на кариерата си, които могат да заемат местата им. Това може да е смяна на поколенията“.
Друг служител на Google DeepMind, който също пожела да остане анонимен, заяви пред BBC: „Много хора са напуснали компанията, защото имат силни възражения срещу това как се е променила етичната позиция на Google DeepMind.“
„Някои хора се борят срещу това, докато други си казват: „Това е огромна компания. Какво очаквате да промените?“, добави служителят.
Споразуменията на Google с Израел също предизвикаха противоречия. През 2024 г. компанията беше подложена на критики от свои служители заради съвместен договор с Amazon на стойност 1,2 млрд. долара (960 млн. британски лири), наречен „Проект Нимбус“. Той осигурява на израелското правителство и армия технологии с изкуствен интелект и инфраструктура за облачни изчисления. Тогава Google заяви, че „Проект Нимбус“ „не е предназначен за силно чувствителни, класифицирани или военни дейности, свързани с оръжия или разузнавателни служби“.
Освен това способностите на Израел за използване на изкуствен интелект във военни действия станаха предмет на дебати, след като бяха представени в наскоро излязъл документален филм, озаглавен „Naza“. В него се разглежда ролята на системите за избор на цели, задвижвани от ИИ, при бомбардировките над Ивицата Газа, довели до голям брой цивилни жертви. Израелски правителствен министър заяви, че твърденията във филма са неверни и изопачени.
Бившият служител на Google Андреас Кирш смята, че технологиите с изкуствен интелект все още не са готови за използване на бойното поле. „Сегашните модели на ИИ не са достатъчно надеждни и не мисля, че изобщо са били обучавани за подобни задачи“, заяви той.
