И зкуственият интелект може с пълна увереност да „открие“ извънземен живот там, където такъв изобщо не съществува. Алгоритмите дават фалшиво положителни резултати при търсенето на биосигнатури, показва ново изследване, публикувано в научния архив за препринти arXiv.
Как учените подведоха изкуствения интелект?
При търсенето на извънземен живот астробиолозите разчитат на универсални показатели – по-специално на способността на системите да кодират информация и да се самовъзпроизвеждат, подобно на ДНК.
Големият пропуск: НАСА може би е подминала признаци за извънземен живот
За да тестват способността на изкуствения интелект да разпознава тези процеси, изследователите използват програмата Avida, която генерира „дигитален живот“ под формата на софтуерен код, способен да еволюира и да се копира във виртуална среда.
След като обучават невронна мрежа върху десетки хиляди дигитални организми, учените постигат впечатляваща първоначална точност на разпознаване от 99,97%.
Последващите тестове обаче разкриват сериозен проблем: с промяната само на отделни команди в кода на организъм, който е абсолютно неспособен да се възпроизвежда, изследователите успяват напълно да объркат алгоритъма.
Как една грешка от 50-те години измами най-модерния изкуствен интелект
Анкит Гупта, докторант в Катедрата по компютърни науки и инженерство в Мичиганския държавен университет (MSU), отбелязва, че без значение с каква последователност от команди са започвали, те са успели да излъжат изкуствения интелект в 100% от случаите.
Били са нужни едва около 150 малки редакционни промени в кода, за да може алгоритъмът погрешно да идентифицира нежива система като способна на самовъзпроизвеждане. Броят на подобни комбинации в реалния свят е огромен, поради което вероятността за сблъсък с фалшива биосигнатура остава изключително висока.
Наближава повратен момент за изкуствения интелект
Кристоф Адами, професор по микробиология, молекулярна генетика, физика и астрономия, обяснява, че изкуственият интелект има сериозна „ахилесова пета“ - той може да идентифицира определен модел, но да го класифицира напълно погрешно.
Директна заплаха за космически мисии и земни технологии
Установената уязвимост създава сериозни рискове за бъдещите изследвания на НАСА и други космически агенции, които планират да използват AI сензори на марсоходи и сонди в близост до луните на Юпитер и Сатурн.
Наближава повратен момент за изкуствения интелект
Ако автономен космически кораб на Марс направи грешен извод за откриването на живот, ще бъде невъзможно тази информация да бъде проверена, докато пробите не бъдат доставени обратно на Земята.
Освен в астробиологията, тази слабост в разпознаването на шаблони представлява заплаха и за редица други сфери, в които изкуственият интелект се внедрява без достатъчен контрол – от медицински скенери и камери за наблюдение до автопилоти в автомобилите.
Професор Адами заключава, че това не означава, че използването на подобни методи в астробиологията, медицинската диагностика или на бойното поле е безсмислено. Той обаче подчертава, че трябва да има независим начин за проверка на работата на изкуствения интелект и че човекът задължително трябва да остане част от веригата за вземане на решения.
