С ветовните сили бързат да пуснат роботи убийци на бойното поле в надпреварата във въоръжаването с изкуствен интелект, а опасенията, че те могат да се обърнат срещу хората все повече нарастват. 

Нов вид студена война е на фронта.

Нов документален филм разкрива как военните сили по целия свят са в тайна надпревара в разработването на ужасяващи нови оръжия с изкуствен интелект.

„Хора от американската армия казват, че който и от световните лидери да получи предимството на ИИ, ще има огромно техническо предимство във войната“, казва Джеси Суит, режисьор на „UNKNOWN: Killer Robots“, чиято премиера ще бъде в понеделник по Netflix.

„Тази революция се случва сега, но мисля, че осъзнаването ни за случващото се изостава“, предупреждава Суит, режисьор и продуцент, носител на награда „Еми“.

Използването на оръжейни роботи и дронове за битка не е нещо ново. Но ИИ софтуерът подобрява съществуващия хардуер, който модернизира войната вече повече от десетилетие.

Сега, казват експертите, развитието на ИИ ни тласна към един нов момент, в който глобалните сили вече нямат друг избор, освен да преосмислят военните стратегии - от самото начало.

„Реалистично е да се очаква, че ИИ ще може да пилотира F-16 и то съвсем скоро“, казва Нейтън Майкъл, главен технологичен директор на Shield AI, компания, чиято мисия е „да създаде най-добрия ИИ пилот в света“.

Създателите на филма обаче изразяват загриженост - подобно на мнозина, работещи в областта на ИИ - относно бързото навлизане на роботите във военните действия и предупреждават, че изобщо не разбираме какво създаваме и какви ще са последствията от това.

„Начинът, по който тези алгоритми обработват информация не са съвсем ясни дори на хората, които са ги програмирали и не могат да разберат напълно решенията, които вземат“, казва Суит.

Съществуват също така опасения, че прецизността и точността на технологията може да превключи на „преследване“ в ситуация на живот или смърт.

Едно основно притеснение се върти около софтуера за лицево разпознаване с изкуствен интелект, който се използва за подобряване на автономен робот или дрон по време на престрелка. В момента е нужно човек да натисне спусъка. Ако решението се остави изцяло на ИИ и екстремистите хакнат системат те могат вече да бъдат възприемани като цивилни или дори съюзници и така ИИ да отиде в ръцете им, предупреждава режисьорът.

„ИИ е по-добър в идентифицирането на бели хора“, каза Суит. „Така че лесно може да сбърка хората с кафява кожа, което ще има ужасяващи последици, когато е поставен в условията бойна действия и трябва да идентифицирате приятелите или враговете..“

А помните ли, когато страхът от това, че машините ще бъдат обърнати срещу нас, беше просто част от сюжета на футуристичен екшън филм?

„С ИИ това е една съвсем реална възможност“, каза Суит. „Самата мисъл за това вече предизвиква напрежение в армията“, споделя още режисьорът.

„Също така има притеснения относно киберсигурността когато се започне да се използва ИИ и по-точно възможността чужди правителства или независими участници да поемат ключови елементи от армията“, казва той. „Не мисля, че има ясно решение на този проблем. Но за смеетка на това мисля, че всички са наясно, че колкото повече автоматизираме армията, толкова повече място правим за нахлуването на неизвесността."

Сложността, необходима, за да се извърши пробив от такъв мащаб, трябва да тревожи всичкини, защото тя съвсем не е голяма, казват запознати.

„Преди трябваше да си компютърен гений, за да направиш нещо подобни. Както във филмите от 80-те, детето трябва да е някакво чудо“, каза Суит. „Но сега бихте могли да бъдете нещо като студент, който си е изтеглил видеоклипа от YouTube, който да ви покаже как.“

И докато изкуственият интелект напредва в медицинските и фармацевтичните технологии за лечение и диагностика на болести, учените предупреждават, че нещо толкова просто като промяната на няколко нули на единици в програмата може да създаде химическо оръжие за провеждане на хиляди симулации, които да дадат токсичен състав.

Д-р Шон Екинс, главен изпълнителен директор на Collaborations Pharmaceuticals, разказва за това как през 2021 г. получил задача от швейцарска група за наблюдение на ИИ, да експериментира с възможността за проектиране на биологично оръжие.

„Изградихме много модели за машинно обучение, за да се опитаме да предскажем дали една молекула може да бъде токсична. Това което направихме беше да обърнем този модел и да кажем „добре, ние се интересуваме от проектирането на токсични молекули“, каза Екинс пред The Post.

„Буквално превключихме ключа на един от моделите и за една нощ той генерира молекули химическо оръжие… и тук говорим за малка компания, която направи един експеримент на настолен Mac от 2015 г.“

Сред произведените модели имаше подобни състави на VX - един от най-смъртоносните нервнопаралитични агенти, известни в света.

„Използвахме генеративни технологии, за да го направим, но те бяха доста елементарни инструменти“, добави изпълнителният директор. „Сега, почти две години по-късно, мисля, че това, което направихме, е нещо като детска игра в сравнение с това, което е възможно днес.“

Екинс се опасява, че „един непредвидим учен“ или някой по-малко квалифициран, но с лоши намерения, ако има средствата да създаде в домашни условия вариации на VX и други биологични оръжия чрез ИИ, то как ще се справим с подобен сценарий.

Въпреки че Екинс и екипът му публикували документи възможностите от потенциалната, смъртоносна злоупотреба и апелирали за създаването на проверки опасенията им не били чути, казва той.

„Индустрията не реагира. Нямаше никакъв натиск за създаването на каквито и да е предпазни мерки“, добави Екинс. „Мисля, че да не обръщаме внимание на потенциалната опасност е доста глупаво…“

Той сравнил бързото ускоряване на машинното обучение в своята област с това на учените, създали атомната бомба преди близо 85 години, без да съзнават опасността и да обмислят последствията.

„Дори кръстниците на ИИ технологиите, както ги наричаме, едва сега осъзнават, че има потенциална „дух от бутилката“, който са пуснали навън“, казва Екинс. „И мисля, че ще бъде много трудно да го върнат обратно в бутилката, ако изобщо е възможно.“

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Президентът Илияна Йотова се срещна с жители на Камбоджа, учили в България

Президентът Илияна Йотова се срещна с жители на Камбоджа, учили в България

България Преди 5 часа

По време на визитата си в Пном Пен за ХХ Среща на върха на Международната организация на Франкофонията държавният глава разговаря с бивши възпитаници на българските университети, сред които министри, правителствени съветници и посланикът на кралството у нас

Напрежението в Барселона не стихва: Стотици протестираха срещу арестите след шествието за жилищната криза

Напрежението в Барселона не стихва: Стотици протестираха срещу арестите след шествието за жилищната криза

Свят Преди 5 часа

Стотици граждани поискаха освобождаването на четирима задържани без право на гаранция след размириците в сряда, докато властите, наемателите и политическите сили си разменят остри обвинения броени седмици преди предсрочните избори на 29 ноември

„Ако Пабло се прероди, тръгвам с него“: Историята на наемния убиец на Ескобар, отговорен за над 3000 жертви

„Ако Пабло се прероди, тръгвам с него“: Историята на наемния убиец на Ескобар, отговорен за над 3000 жертви

Свят Преди 7 часа

След като излежава 23 години затвор за убийства, тероризъм и трафик на наркотици, Джон Хайро Веласкес, известен като Попай, стартира канал в YouTube, където разказва за поръчките, които е изпълнявал за Пабло Ескобар и страховития картел Меделин

Взрив на газова бутилка рани петима души на коледен базар в Белгия

Взрив на газова бутилка рани петима души на коледен базар в Белгия

Свят Преди 8 часа

Инцидентът е довел до временното затваряне на базара, който е сред най-популярните в региона

Пет поколения на едно място: Баба Неделя от Търговище отпразнува 106-и рожден ден

Пет поколения на едно място: Баба Неделя от Търговище отпразнува 106-и рожден ден

България Преди 8 часа

Най-възрастната жителка на региона посрещна сина си, внуци, правнуци и праправнуци в апартамента си в града, радвайки се на отлично здраве и дългогодишна семейна традиция на дълголетие

НС прие на първо четене данъчни облекчения за детски спорт и частни уроци

НС прие на първо четене данъчни облекчения за детски спорт и частни уроци

България Преди 8 часа

Сред основните критики към първоначалните текстове беше изискването родителите да пазят касовите бележки за направените разходи в продължение на години

Естония затваря изцяло границата си с Русия от 1 декември

Естония затваря изцяло границата си с Русия от 1 декември

Свят Преди 9 часа

Външният министър Маргус Цахкна обяви крайната мярка без краен срок в отговор на опита за палеж на фабрика за дронове, за който Талин обвини Москва

Най-големият протест от 1989 г. насам: Стотици хиляди чехи блокираха Прага с викове „Долу ръцете от медиите“

Най-големият протест от 1989 г. насам: Стотици хиляди чехи блокираха Прага с викове „Долу ръцете от медиите“

Свят Преди 9 часа

Между 350 000 и 450 000 души изпълниха парка „Летна“ в най-мащабната демонстрация от Нежната революция през 1989 г. насам, за да защитят независимостта на Чешката телевизия и Чешкото радио от плановете на кабинета на Андрей Бабиш

Бритни Спиърс пуска собствена линия бижута BTiny

Бритни Спиърс пуска собствена линия бижута BTiny

Любопитно Преди 9 часа

Поп иконата Бритни Спиърс стартира дългоочаквана линия бижута, наречена BTiny. Певицата пусна специален уебсайт с послание до феновете, разкривайки, че тайният и много личен проект се подготвя повече от 20 години и съвсем скоро ще види бял свят

Гърция доставя електроенергия на България през деня, за да я купи обратно вечерта

Гърция доставя електроенергия на България през деня, за да я купи обратно вечерта

България Преди 10 часа

Анализ на Европейската комисия показва, че бумът на соларните паркове и системите за съхранение на енергия в батерии с капацитет над 16 гигаватчаса позволяват на страната ни да внася евтин дневен ток и да го изнася при по-високи вечерни цени

„Всичко, до което се докоснаха, се превърна в хаос“: Тръмп обвини Байдън за спирането на въздушния трафик в САЩ

„Всичко, до което се докоснаха, се превърна в хаос“: Тръмп обвини Байдън за спирането на въздушния трафик в САЩ

Свят Преди 10 часа

Американският президент определи управлението на авиационния сектор от страна на предишната администрация като катастрофа и заяви в „Трут Соушъл“, че безотговорно похарчените пари са влошили още повече остарялата система

Сватбата на принцеса Ан: „Най-семплата рокля на света“, торта с нейния ръст и 500 милиона зрители

Сватбата на принцеса Ан: „Най-семплата рокля на света“, торта с нейния ръст и 500 милиона зрители

Любопитно Преди 11 часа

Преди 53 години британската принцеса Ан се омъжи за капитан Марк Филипс пред половин милиард зрители. Вижте историята на нейната средновековна рокля, тиарата на кралицата майка и защо Грейс Кели наруши кралския протокол по време на церемонията

Правителството ще разгледа утре проекта на бюджет за 2027 г.

Правителството ще разгледа утре проекта на бюджет за 2027 г.

България Преди 11 часа

Министерският съвет се събира на заседание в понеделник, 16 ноември, за да обсъди държавната план-сметка, както и бюджетите на НЗОК и ДОО за следващата година

Празничният дух завладя столицата: Немският коледен базар в София отвори врати (СНИМКИ)

Празничният дух завладя столицата: Немският коледен базар в София отвори врати (СНИМКИ)

България Преди 11 часа

За 16-а поредна година Градската градина пред Народния театър „Иван Вазов“ се превърна в коледно градче, което ще радва жителите и гостите на столицата до 21 декември

Приближените на Макрон предупредиха, че Марин льо Пен ще изолира Франция от Европа

Приближените на Макрон предупредиха, че Марин льо Пен ще изолира Франция от Европа

Свят Преди 12 часа

Приближените до френския президент разкритикуваха остро намерението на лидерката на „Национален сбор“ да спре помощта за Украйна и обвиниха Вашингтон, че е „изоставил“ Киев и оказва натиск върху него в полза на Москва

Напрежение около службите: ДАНС отрече твърденията за въздействие по казуса с Ива Михайлова

Напрежение около службите: ДАНС отрече твърденията за въздействие по казуса с Ива Михайлова

България Преди 12 часа

От държавната агенция определиха като недопустимо въвличането на институцията в политически противопоставяния чрез записи с непотвърден произход, след като Ивайло Мирчев заговори за „силно взаимодействие“ по случая с Ива Михайлова