П овече от 100 технологични компании, фирми за киберсигурност, банки и други организации предупреждават, че светът има само ограничен период, за да се подготви за ново поколение кибератаки, задвижвани от изкуствен интелект. В отворено писмо, публикувано от OpenAI, компаниите заявиха, че все по-способните модели бързо променят икономиката и мащаба на киберпрестъпността. Те предупредиха, че атаките срещу основни услуги, включително болници, пречиствателни съоръжения за вода и инфраструктурата, поддържаща интернет, биха могли да станат значително по-широко разпространени и сложни през следващите месеци.
Писмото е подкрепено от OpenAI, Microsoft, Anthropic, Google, CloudFlare, CrowdStrike и много други. Съвместната инициатива идва на фона на нарастващо напрежение относно безопасността AI. През последните месеци, усъвършенствани AI агенти демонстрираха възможности, граничещи с критични прагове на риск за киберсигурността, включително автономно откриване на уязвимости, многоетапни уязвимости и пробиви.
Meta ще плати до 18 млрд. долара, за да пази децата
Според отвореното писмо, основното предизвикателство не е, че изкуственият интелект създава чисто нови вектори за атака от нищото, а че той ускорява експлоатацията на съществуващи уязвимости. Дългогодишни софтуерни грешки, неправилни конфигурации на разрешения и остарели системи, чието обратно проектиране преди отнемаше на човешките хакери значително време, сега могат да бъдат сканирани и превърнати в оръжие много по-бързо.
Подписалите писмото предупреждават, че през следващите месеци AI атаки ще застрашат критична обществена инфраструктура, варираща от общински пречиствателни съоръжения за вода и регионални електропреносни мрежи до здравни мрежи и финансови институции. AI агентите могат все по-често да изпълняват дълги поредици от задачи, да пишат и анализират код, да търсят уязвимости и да взаимодействат с компютърни системи. С подобряването на тези възможности, нападателите биха могли да автоматизират атаките.
Apple пуска два нови процесора и освежи Mac Mini
Мъск: AI може да стане невъзможен за контрол
Въпреки че колективният призив представлява безпрецедентно сближаване между съперници, анализаторите отбелязват, че в първоначалния документ липсват конкретни обвързващи срокове, изрични суми за инвестиране или задължителни графици за одит. Вместо това инициативата служи като оперативен план.
Предложеният подход на OpenAI се фокусира върху предоставянето на усъвършенстван изкуствен интелект на доверени защитници, като същевременно подобрява сътрудничеството и споделянето на информация. Компанията твърди, че екипите по сигурността се нуждаят от достъп до все по-способни модели, ако искат да са в крак с хакерите.
Тази философия вече е отразена в стратегията за киберсигурност на OpenAI. Компанията е въвела програми, предназначени да предоставят на доверени специалисти по сигурността достъп до усъвършенствани възможности на изкуствения интелект и е отделила ресурси за разширяване на киберзащитата. Тя също така разработва системи, предназначени да идентифицират уязвимости, да генерират корекции и да помогнат за проверка дали проблемите със сигурността са отстранени.
ChatGPT пуска реклами в отговорите си в Европа
И младите започнаха да се притесняват от възхода на AI
Следователно новото колективно усилие представлява промяна в начина, по който индустрията гледа на сигурността на изкуствения интелект. Вместо да третира киберзащитата като отговорност на отделна компания, OpenAI и останалите компании твърдят, че заплахата е достатъчно широка, за да изисква споделена инфраструктура, разузнаване и защитни инструменти.
Зукърбърг смята, че има как бъдещето на AI да е за всички
Легендарна социална мрежа планира своето завръщане
В инициативата има важна ирония. Компаниите едновременно се надпреварват да направят своите модели по-способни, автономни и полезни, като същевременно предупреждават, че същите тези възможности могат да бъдат използвани като оръжие. Компаниите, стоящи зад отвореното писмо, вярват, че все още има време за подготовка. Но посланието им е спешно: прозорецът за укрепване на защитата се стеснява.
Добави ни в предпочитани източници в Google
