Д роновете ще трябва да бъдат програмирани с морални насоки, тъй като вземането на решения, задвижвано от изкуствен интелект (ИИ), намалява участието на човека в автономната война. Това твърди бивш ръководител на британското разузнаване.
Дейвид Оманд сподели пред The Guardian, че е променил мнението си за безпилотните оръжейни системи повече от десетилетие след като беше заключил, че автономните дронове не могат да спазват международното хуманитарно право.
Бившият директор на GCHQ (Правителствената служба за комуникации – британската агенция за електронно разузнаване) заяви, че сега вярва, че ИИ може да създаде „морална“ рамка за безпилотните оръжия, която да прави разлика между бойци и цивилни.
Оманд поясни, че е бил разколебан от „ускоряването“ на модерната война, демонстрирано от разполагането на оръжия като дронове и хиперзвукови ракети, както и от появата на генеративния ИИ. Според него това е дало на държавите „потенциално етичен начин“ да позволят на дроновете да оперират под системи, съобразени с морала.
„Моят призив е наистина да се свърши малко работа по въпроса, за да не се окажем в ситуация, в която липсва морален компонент, вграден в бъдещите оръжейни системи, задвижвани от ИИ“, каза той.
Неговото изказване дойде в момент, в който министърът на въоръжените сили Ал Карнс заяви, че може да има обстоятелства, при които машините сами да вземат решения за поразяване на цели: „трябва да имате способността да извадите човека от веригата, когато се налага“.
Междувременно САЩ залагат изключително силно на войната, управлявана от ИИ. Бюджетът им за 2027 г., публикуван през април, заделя 54 млрд. долара за финансиране на „автономни и дистанционно управлявани системи във въздуха, на сушата, над и под водата“, включително програма за „доминация на дроновете“. Бившият директор на ЦРУ Дейвид Петреус обаче твърди, че САЩ нямат военна доктрина за автономни формирования.
Говорейки пред The Guardian преди появата си на научния фестивал в Челтнъм в сряда, Оманд заяви, че технологията на ИИ вече е способна да претегля факторите, които влизат в решенията на човека – оператор на дрон, като например дали целта е легитимна, дали ще има цивилни жертви и дали целта е правилно идентифицирана. Това не означава измисляне на нова етика, добави Оманд, а превръщане на настоящата, използвана от военните, във форма, която може да бъде внедрена от машина.
Изкуственият интелект вече се използва активно в скорошни военни мисии на САЩ, като технологии, разработени от Palantir и Anthropic, се внедряват, за да помогнат за съкращаване на „веригата на поразяване“ (процеса от избор на цел до нанасяне на удар) в конфликта с Иран.
Оманд, който беше директор на GCHQ между 1996 и 1997 г., председателстваше комисия на Университета в Бирмингам през 2014 г. относно въоръжените дронове. Тогава комисията изрази „съмнения“ дали автономните оръжейни системи могат безопасно да разграничават цивилни от бойци и дали изобщо биха могли да „проявяват пропорционалността, необходима за спазване на международното хуманитарно право“.
Сега Оманд, който е гост-професор в департамента по военни изследвания в King’s College London, вярва, че машината вече може да атакува легитимни военни цели, включително хора, по начин, който отразява „здраво морално разсъждение“, макар и все още под някаква форма на човешки надзор.
Той отбеляза, че тъй като войната става все по-технологично напреднала, хората неизбежно ще трябва да бъдат „над веригата“ (on the loop), а не „във веригата“ (in the loop) на ИИ системите. Терминът „във веригата“ обикновено се използва в дебатите за ограничаване на мощните ИИ системи и се отнася до човешко същество, което е пряко и детайлно ангажирано в процеса на вземане на решения.
Оманд обясни, че „над веригата“ означава, че човек ще контролира системата, но няма да разрешава всяко отделно бойно действие, като пробивите в генеративния ИИ правят възможно машините да работят в морална рамка, проектирана от човека. Тези морални рамки трябва да могат да се коригират за всяка отделна операция, добави той.
Преминаването към модел „над веригата“ е неизбежно в свят, в който войната се води със скорост, каза Оманд. „Това е физическа и оперативна неизбежност“, заяви той. „Терминът „над веригата‘“означава, че все още имате човешки надзор и хората определят параметрите на мисията. В този смисъл хората все още имат морален контрол. Но за отделните решения в разгара на битката, или когато времето е много малко, просто няма да има време човек да ги вземе“, обяснява той.
Въпросът сега, според Оманд, е как хората да гарантират, че автономните оръжейни системи могат да се придържат към международното право. Военната политика на Обединеното кралство относно използването на ИИ в отбраната гласи, че „трябва да има подходящо за контекста човешко участие в оръжията, които идентифицират, подбират и атакуват цели“, като се добавя, че това може да включва „контрол, упражняван чрез задаване на оперативните параметри на системата“.
Оманд твърди, че действията на дрона могат да бъдат разделени на шест променливи, на които човешкият оператор – този „над веригата“ – може да присвои нива на важност, които след това се използват за насочване на решението на дрона по време на мисия.
„Крайният резултат може да бъде морална система за вземане на решения, която е етично по-добра от човешката“, каза Оманд, който също така е заемал ръководни позиции в отбранителни компании и е съветник в инвестиционната фирма Paladin Capital, инвестираща в компании за киберсигурност.
„Това действително би могло да проработи, докато разчитането на хора в ситуации, където секундите са от значение за войната, вероятно ще доведе до много по-лоши резултати по отношение на съпътстващите щети“, каза той.
Моралът би се програмирал чрез това, което Оманд нарича „слой за адаптивен морален контрол“, където човек задава параметрите на „моралната“ система преди мисията, като например очаквания процент цивилни около целта. Оманд описва това като „формализиране на моралния авторитет“.
Активист срещу използването на дронове обаче нарече позицията на Оманд „колкото нелепа, толкова и опасна“. Крис Коул, директор на Drone Wars UK, заяви: „ИИ просто не е способен да прави преценки. Той единствено обработва данни, като напълно му липсва способността, например, да разграничава цивилни от бойци или да преценява дали загубата на човешки живот е пропорционална на военното предимство“.
