У чени създадоха първите вируси, проектирани от изкуствен интелект – постижение, което буди надежди за нови медикаменти, но и засилва опасенията относно безопасността на тази технология, съобщава The Guardian.
Въпросните вируси са от специфичен тип, известен като бактериофаги. Те заразяват единствено бактерии и се използват по целия свят за лечение на пациенти с упорити инфекции. При лабораторни тестове коктейл от проектираните от ИИ вируси е унищожил бактерии E. coli, резистентни към естествените бактериофаги.
Първата в света ваксина, проектирана от изкуствен интелект
Д-р Брайън Хай, химически инженер от Станфордския университет в Калифорния, е използвал геномни езикови модели (генетичният еквивалент на големите езикови модели зад разговорните ИИ ботове), за да проектира функциониращи геноми за бактериофаги. След това вирусите са били синтезирани в лаборатория и изправени срещу бактерията E. coli в лабораторни условия.
Възможността бързо да се проектират геноми и те да се настройват спрямо конкретни бактерии, преодолявайки тяхната резистентност, може „да трансформира фаговата терапия“ и „да разшири инструментариума на биотехнологиите“, пишат изследователите в списание Science.
Освен потенциалните ползи обаче, учените подчертават, че работата повдига „важни съображения относно биологичната безопасност, изолация и сигурност“ и призовават всеки, който проектира цели геноми, „да се консултира с експерти по безопасност и сигурност през целия процес“.
В съпътстваща статия проф. Том Ингълсби и д-р Мориц Ханке от Центъра за здравна сигурност към университета „Джонс Хопкинс“ в Балтимор подсигуряват това предупреждение с думите: „Макар това да е обещаващо за приложенията в науките за живота, то повдига и спешни въпроси за биосигурността. Способността да се създават вирусни геноми с помощта на генеративен ИИ вече съществува, но рамката за безопасното му управление – все още не“.
Д-р Хай и колегите му са използвали ИИ моделите Evo1 и Evo2, за да проектират новите вирусни геноми. Моделите са били обучени върху генетични данни от 2 милиона бактериофага. Генетичният код на вирусите, които заразяват растения, хора или други животни, нарочно е бил изключен от обучението на ИИ, за да се намали рискът от създаване на опасни вируси.
Хакери вече използват AI: Как да се предпазим
Изкуственият интелект е генерирал хиляди потенциални генома, от които изследователите са избрали близо 300, за да ги произведат в лабораторията. Те са били въведени в бактерии, които са разчели генетичния код и са започнали да възпроизвеждат новите бактериофаги. Процесът не е бил напълно ефективен: само 16 бактериофага са се оказали жизнеспособни, но техният коктейл бързо е преодолял резистентността на два различни щама на E. coli.
Геномите на бактериофагите са изключително малки, но Ингълсби и Ханке посочват, че работата въпреки това е доказала възможността генеративният ИИ да създава функциониращи вирусни геноми. Дали същият подход може да се приложи за други вируси остава неизвестно, но те категорично заявяват, че не трябва да се работи върху патогени, които могат да заразят хора, животни или растения.
Твърде опасен за хората? Защо OpenAI скри новия си супермодел GPT-Rosalind
„Подобни геноми биха могли да кодират нови патогени, които... не могат да бъдат овладени от съществуващите мерки за защита“, пишат те.
Том Елис, професор по инженерство на синтетични геноми в Imperial College London, смята, че постижението е впечатляващо, но показва и колко трудно би било създаването на по-сложни геноми. „Това буквално е най-малкият и най-лесният геном за създаване“, казва той.
ИИ, обучен върху генетичния код на опасни бактерии, би могъл да се използва за проектиране на по-вредни вируси, допълва Елис, но контролът върху достъпа до генетични данни и ограниченията върху създаването на геноми с опасен профил биха помогнали.
След OpenAI, и Anthropic призна: Техният изкуствен интелект атакува реални системи в интернет
„Правителствата вече работят усилено в тази посока“, добавя той.
„Честно казано обаче“, заявява той, „заплахата от пълно проектиране и създаване на геном на вирус или бактерия от ИИ е силно преувеличена, като се има предвид, че модифицирането на вече съществуващи патогени за засилване на техните функции е много по-лесно и е много по-вероятно да представлява реална заплаха“.
Д-р Филипа Ленцос, преподавател по наука и международна сигурност в King’s College London, отбелязва, че най-важната точка за контрол в момента е процесът по синтезиране на ДНК.
„Важно е да се вижда цялостната картина на управлението и регулацията да не се фокусира единствено върху ИИ модела“, казва тя.
„Многостепенният подход е по-разумен: защитни механизми около разработването и достъпа до моделите, отговорен преглед на научните изследвания, скрининг на синтеза и установени стандарти за лабораторен контрол и биосигурност“, допълва тя.
