ООН настоява за ограничения на автономните оръжия: Кои са „роботите убийци“?
Източник: iStock
  • Генералният секретар на ООН Антонио Гутериш призова за юридически обвързващи ограничения върху автономните оръжия, които могат да убиват без човешка намеса.
  • Макар напълно автономните системи все още да не са широко въведени, изкуственият интелект вече се използва за откриване и насочване към цели.
  • Основните опасения са за цивилните жертви, грешките и липсата на ясна отговорност при използването на подобни оръжия.

ООН предупреди за оръжия, които могат да убиват без човешка намеса

На среща в Женева, с участието на 128 държави, генералният секретар на ООН Антонио Гутериш призова страните да се договарят за юридически обвързващи правила за автономните оръжия и предупреди за опасностите, свързани със системи, които могат да убиват без човешка намеса.

"Новите технологии, включително автономните оръжейни системи, ни изправят пред нови хуманитарни, правни, етични и свързани със сигурността проблеми. Призовавам ви да използвате момента. Предприемете мерки, за да предотвратите употребата и разпространението на тези безпощадни оръжия", заяви Гутериш във видеопослание, с което бе открита срещата на страни, участващи в Конвенцията на ООН за определени конвенционални оръжия.

Генералният секретар на ООН призова за приемането на правно обвързващи норми, които да регулират появяващата се технология. Те задължително трябва да включват "ясни забрани и ограничения".

ООН: Светът е опасно близо до ера на "роботи убийци"

  • Какво са "роботите убийци" и "изцяло автономните оръжия"?

Често наричани "роботи убийци", изцяло автономните смъртоносни оръжия могат да идентифицират и да проследяват цели и да извършват смъртоносни атаки без човешка намеса.

Но, според доклад на "Аутономъс уепънс уоч" за тенденциите в използването на изкуствения интелект като оръжие, "фокусът върху автономните оръжия и изкуствения интелект (ИИ) във военната сфера вече не се ограничава до отделни автономни оръжейни системи, а все повече обхваща базирана на ИИ среда за командване и управление, подпомагане на вземането на решения, насочване, откриване и координиране."

Идва ерата на роботите убийци

  • Къде сме днес?

Към август 2026 г. все още не сме станали свидетели на оръжейна система в рутинна оперативна експлоатация, която да действа напълно автономно – от радарното засичане до поразяването на целта, показва докладът на "Аутономъс уепънс уоч".

Наблюдава се обаче възходяща тенденция за постепенното въвеждане на изкуствен интелект по цялата верига от сензори до изпълнението на атаката: откриването, класифицирането, проследяването, определянето на приоритети, планирането на маршрути, разпределянето на ресурси и препоръките за поразяване. Всичко това става все по-автоматизирано, макар че хората формално остават на определени етапи от вземането на решения.

Полуавтономните системи вече са широко разпространени: при тях оператор избира района или общата цел, а ИИ поема финалното насочване към целта. Това вече е масова практика.

Реално подобни системи се делят на два типа: хардуерни дронове с автономно насочване и софтуерни платформи за масово генериране на цели. Докато дроновете използват компютърно зрение за финалния удар при заглушен сигнал, софтуерните алгоритми анализират огромни масиви от разузнавателни данни, за да посочат кого и къде да порази армията.

Примери за тези дронове са украинските Сейкър и руските Зала-Зет, Ланцет-Е и Зет-16E (разузнавателни). Руската армия интегрира ИИ алгоритми за разпознаване на обекти в разузнавателните си дронове, които работят в тандем с ударните дронове Ланцет, като им предават координати за автоматично насочване, по данни на сайта Арми Текнолоджи.

Друг подход показват системи като израелската Лавендър. Според палестинския сайт "972 магазин" и британският в. "Гардиън" тя е позволила на израелската армия да открива и проследява хиляди мишени в Газа, свързани с "Хамас" - задача, която отнема далеч повече време на екипи от човешки аналитици. В началото на кампанията (след нападението на 7 октомври 2023 г.) времето за оценка на целите от страна на човек може да е било едва 20 секунди.

Нещо повече, според разследването на палестинския сайт, системата е насочвала ударите срещу бойци на "Хамас", докато те са били в домовете си, заедно със семействата си - където е било най-лесно да бъдат открити. Това е довело и до огромно покачване на броя на цивилните жертви.

Тези твърдения се оспорват от израелска страна, както посочва правният институт Либер на военната академия на САЩ "Уест пойнт". Според израелските експерти, цитирани и от в. "Гардиън", използването на ИИ-генерирани данни е било само на ранните стадии от вземането на решение, а "Лавендър" е просто инструмент, подпомагащ работата на аналитиците.

САЩ ще блокират глобалната забрана на роботите убийци

  • Какви са проблемите, които поставят автономните оръжия?

Основните проблеми (изключвайки опасенията на научните фантасти за "оръжия, които решават да унищожат създателите си" - нещо, което те за момента не са в състояние да направят), са няколко.

Първо, автоматизираните системи не изпитват жалост или състрадание. За тях целите са само подходящи и неподходящи. Подобно отношение е нещо, против което хуманитарното право се бори: в наши дни се изисква преди нанасянето на удар командващият офицер да прецени дали очакваните цивилни жертви и щети не са прекомерни спрямо конкретното военно предимство, отбелязва публикация на Международният комитет на Червения кръст.

Това изисква сложна преценка, която не може да се сведе до формула, която да може да бъде разбрана и приложена от автоматична система.

Второ, съществува съвсем практичен въпрос: ако дронове, роботи и други системи, подпомагани от изкуствен интелект, трябва да могат без човешка намеса да идентифицират и атакуват хора...кой носи отговорността?

Ако военен вземе решение да пусне автономни ударни дронове над определен район и те поразят по погрешка цивилни лица или обекти, кой е виновен - пусналият ги, началникът му, взелите решението за закупуването им, производителят, програмистите, или самият алгоритъм (който пък изобщо не е субект на правото)?

Това би направило търсенето на отговорност за военни престъпления почти невъзможно. А подобна ситуация води до практическа безнаказаност.

Още повече, че за да можем да разчитаме на преценката на машината, дори при правилно и коректно програмиране, тя трябва надеждно да различава въоръжени бойци от цивилни лица, ранени войници или предаващи се пленници. Съвременните системи за компютърно зрение често се подвеждат от маскировка, нетипични дрехи или граждански превозни средства, използвани за военни цели.

А от морална гледна точка - да прехвърлим на машина решението кой да живее и кой да умре нарушава фундаменталното човешко достойнство, смятат правозащитници.

Против ограниченията: САЩ, Русия, Израел, Китай, Индия.

Повечето държави подкрепят създаването на подобни ограничения. Още през 2020 г. проучване на Кампанията за спиране на роботите убийци установи, че 62% от запитаните са били против използването на изцяло автоматизирани оръжия.

Преговорите в ООН се намират в решаваща, но силно поляризирана фаза: докато огромното мнозинство държави настояват за правно обвързващ договор до края на 2028 г., водещите военни сили блокират строгите забрани под претекст, че автономността повишава прецизността на бойното поле, отбелязва Инициативата за безопасност на ИИ "Клауд секюрити алайънс". В същото време надзорът от човек отслабва.

Дискусиите за смъртоносните автономни оръжейни системи (LAWS) се водят в два паралелни формата в рамките на ООН:

Конвенцията за забрана или ограничаване на употребата на определени конвенционални оръжия, базирана в Женева. Повече от десетилетие тук заседава Група на правителствените експерти (ГПЕ). Основният проблем на този формат е, че решенията се взимат с пълен консенсус — всяка отделна държава има право на вето. На Седмата обзорна конференция на 16–20 ноември 2026 г. над 120 държави решават дали да стартират официални преговори за нов правнообвързващ протокол.

Другият формат е Общото събрание на ООН в Ню Йорк. Тъй като разговорите в Женева често са блокирани, група държави (водена от Австрия) пренесе темата в Общото събрание, където решенията се взимат с мнозинство. В края на октомври 2026 г. Първият комитет на ООН прие резолюция с подкрепата на 163 държави.

Против гласуваха само 5: САЩ, Русия, Израел, Беларус и Северна Корея; 9 се въздържаха, включително Китай. Резолюцията призовава за незабавно преминаване към преговори за международен инструмент, който да гарантира „значим човешки контрол“.

Проблемът е, че в ООН обвързващите решения се вземат от Съвета за сигурност. А в него две от гласувалите "против" имат право на вето.

Генералният секретар Антонио Гутериш и Международният комитет на Червения кръст (МКЧК) настояват за компромисен модел:

Пълна забрана на системи, които работят без човешки контрол, непредсказуеми са или са програмирани да атакуват директно хора.

Това трябва да се комбинира със строги регулационни мерки за всички останали полуавтономни системи (например за защита от ракети и дронове), за да се гарантира спазването на международното право.

ООН ще обсъжда развитието на роботи-убийци

  • Какви са мотивите на противниците на забраните?

Държавите с най-напреднали военни технологии (САЩ, Русия, Израел, а в по-умерена форма Китай, Великобритания и Индия) се противопоставят на нов обвързващ договор или го забавят. Какви са техните основни аргументи?

В работни документи пред ООН САЩ и съюзниците им твърдят, че автономните системи могат да намалят цивилните жертви. Според тях машините не изпитват страх, гняв, паника или умора, могат да обработват данни от множество сензори за милисекунди и са способни да нанасят по-прецизни удари от войник под стрес, посочва се в публикация на Атлантик каунсъл.

Противниците на евентуален нов договор поддържат тезата, че Женевските конвенции и Международното хуманитарно право вече важат за всички оръжия, включително автономните, отбелязва Дифенс нюз. Според тях не са нужни нови забрани, а само споделяне на "добри практики" и доброволни насоки за отговорно използване на ИИ.

Към това се прибавят опасенията на големите сили, че ако подпишат обвързваща забрана, те може да изостанат: да спрат разработките си, докато авторитарни режими или терористични групи ще продължат да разработват тайно автономни дронове. За разлика от ядрените оръжия, софтуерът за автономност е евтин, лесен за копиране и не може да бъде проверен чрез международни инспекции.

Военните експерти изтъкват, че границата между "автоматизирано" оръжие (като системите за ПВО, които от десетилетия сами прехващат ракетите) и "автономно" оръжие е неясна. Според тях прекалено широка забрана би блокирала легитимни отбранителни технологии и цивилни иновации в областта на изкуствения интелект. Системи за противовъздушна отбрана като "Аегис", например, вече имат значителна степен на автономия, без да са незаконни, както посочва правният отдел на университета на Куинсланд. Въпросът е дали да се позволи съществуването на системи, които могат да стрелят автоматично по хора, отвръщат поддръжниците на забраната като Международния комитет на Червения кръст.

Освен това, както показа опитът от войната в Украйна, при мощно заглушаване връзката между оператора и дрона се прекъсва - според противници на забраната, автономното финално насочване е единственият начин оръжията да останат ефективни на съвременното бойно поле.

Според експертите няма доказателства, че подобни оръжия вече се използват в конфликти.

Има един-единствен докладван опит в Украйна през 2024 г., при който изглежда, че е бил завършен този пълен цикъл автономно, включително срещу личен състав, но това остава изолиран експериментален случай. В случая, съобщен през август 2026 г. от Ню Сайънтист, се съобщаваше за оръжие, управлявано от ИИ, което е убило хора в Украйна. То е било програмирано от оператори да достигне до конкретно място, след което, според съобщенията, е нанесло ударите автономно.

Освен това още през 2021 г. в доклад на ООН беше съобщено, че турският дрон Каргу-2 на компанията Ес Ти Ем е извършил през 2020 г. самостоятелно нападение срещу отстъпващи сили, при сблъсък между войници на признатото от ООН Правителство на националното единство и силите на маршал Халифа Хафтар. Според производителя, обаче, дронът Каргу-2 не е способен на това и винаги човек натиска финалния бутон.

В крайна сметка, както обобщава авторитетното издание Глобал секюрити ревю: "Технологичният напредък и нарастващите военни разходи през последните години ускориха разработването на автономни оръжейни системи. Въпреки че тази технология все още е в начален етап на развитие, тя вече промени съвременната война. Когато достигнат пълна зрялост, тези системи ще осигурят средства за прецизен и независим подбор и поразяване на цели, без да излагат войниците на опасностите на бойното поле."

Изказването на Антонио Гутериш ни напомня точно за това: моментът да действаме за налагането на ограничения е преди тази технология да достигне "пълна зрялост" и да се е установила като нормална част от воденето на война.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Столична община спечели и на втора инстанция делото за терена на автокъща „Капитолия“ в Борисовата градина

Столична община спечели и на втора инстанция делото за терена на автокъща „Капитолия“ в Борисовата градина

България Преди 53 минути

Васил Терзиев: Няма да се откажем от собствеността на София само защото връщането ѝ е трудно

Урсула фон дер Лайен

ЕС преведе на Украйна рекордни 7,9 млрд. евро

Свят Преди 1 час

Най-голямото плащане по Механизма за Украйна. До края на 2026 г. остават още 15,7 млрд. евро

Русия ограничава продажбите на горива заради недостиг

Русия ограничава продажбите на горива заради недостиг

Свят Преди 1 час

Украинските атаки са намалили с 45% преработката на суров петрол в руските рафинерии от края на октомври, съобщава Ройтерс

Русия, която не се случи: Какво щеше да е, ако Путин не беше нахлул в Украйна

Русия, която не се случи: Какво щеше да е, ако Путин не беше нахлул в Украйна

Свят Преди 2 часа

В Русия, която щеше да съществува, ако войските ѝ никога не бяха пресекли границата, стотици хиляди мъже, които днес гният в земята, са живи и остаряват, ставайки бащи или дори дядовци. В техните семейства на кухненската маса има по един зает стол повече, а инженери, предприемачи и студенти, които събраха живота си в един куфар и заминаха да търсят по-добро бъдеще, работят в руски компании

Вино за четвърт милион: Шокиращи разкрития за разточителството и дълговете на Джони Деп

Вино за четвърт милион: Шокиращи разкрития за разточителството и дълговете на Джони Деп

Любопитно Преди 2 часа

Нова биографична книга разкрива шокиращите мащаби на разточителството на холивудската звезда, който е спечелил 265 милиона само от „Карибски пирати“, но е затънал в дългове и съдебни битки

Италия е обхваната от 24-часова общонационална стачка

Италия е обхваната от 24-часова общонационална стачка

Свят Преди 2 часа

Протестът засяга здравеопазването, образованието и градския транспорт. Това е втората обща стачка в страната за по-малко от месец

Рекордът на SOFIX не е еуфория: защо най-доброто за българската борса тепърва предстои

Рекордът на SOFIX не е еуфория: защо най-доброто за българската борса тепърва предстои

Любопитно Преди 2 часа

Еврото, новият статут на пазара и завръщането на институционалните инвеститори създават условия за устойчив растеж, смята финансовият анализатор Димитър Георгиев

Селфита в стил GTA 6: Как да си направим плакат от Вайс Сити с изкуствен интелект

Селфита в стил GTA 6: Как да си направим плакат от Вайс Сити с изкуствен интелект

Любопитно Преди 2 часа

На фона на еуфорията около GTA 6 социалните мрежи буквално преливат от кадри, генерирани с изкуствен интелект, които превръщат обикновените селфита в неонови постери в духа на Вайс Сити

Техническа неизправност намали временно мощността на 6-и блок на АЕЦ „Козлодуй“

Техническа неизправност намали временно мощността на 6-и блок на АЕЦ „Козлодуй“

България Преди 3 часа

Проблемът е отстранен, започнало е поетапно повишаване на мощността. Проверяват се причините за неизправността

<p>Ракети през 20 минути: Русия нанесе един от най-мащабните си удари по Украйна</p>

Русия нанесе един от най-мащабните си удари по Украйна, атакува енергийната мрежа

Свят Преди 3 часа

Зеленски съобщи за поражения по подстанции, електропроводи, мостове и железопътни обекти, както и за аварийни прекъсвания на тока

Безмилостен елиминационен дуел очаква Йоанна и Симона в “Игри на волята” тази вечер

Безмилостен елиминационен дуел очаква Йоанна и Симона в “Игри на волята” тази вечер

Любопитно Преди 3 часа

Безмилостен елиминационен дуел очаква Йоанна и Симона в “Игри на волята” тази вечер

Надежда Йорданова

ДБ: Говорим с "Прогресивна България" за промяна в конституцията

България Преди 3 часа

ПП-ДБ искат ограничаване на правомощията на главния прокурор и нов модел на отчетност в прокуратурата

Кристалина Георгиева

Кристалина Георгиева: ИИ крепи растежа, но вдига цените

Свят Преди 3 часа

ИИ компенсира енергийния шок, но вдига световната инфлация до 4,7%, предупреди шефката на МВФ

Пеевски заговори за „рибки в аквариум“, Костадинов - за нова „сглобка“ след избора на ВСС

Пеевски заговори за „рибки в аквариум“, Костадинов - за нова „сглобка“ след избора на ВСС

България Преди 3 часа

ПБ и ПП-ДБ отрекоха обвиненията в задкулисни договорки, докато ДПС и „Възраждане“ разкритикуваха разпределението на местата

Рак на панкреаса - снимката е илюстративна

Нова надежда срещу рака: Хапче свива и премахва тумори на панкреаса

Любопитно Преди 3 часа

Лекарите обаче подчертават, че все още е много рано да се знае колко дълго лекарството може да държи болестта под контрол, и то не бива да се разглежда като лек