П рез по-голямата част от изминалата година компаниите в сферата на изкуствения интелект популяризираха все по-способни AI агенти, които могат да изпълняват задачи, да взаимодействат със софтуер и да вземат решения с минимална човешка намеса. С нарастването на автономността на тази технология обаче зачестяват и предупрежденията за потенциалните опасности, свързани с нея. Сега Apple се присъединява към растящия списък от компании, които открито признават тези рискове, превръщайки се в най-значимото корпоративно име до момента, отправило подобно предупреждение.
В последния си финансов отчет, Apple изрично посочи възможността AI агентите да се държат по „непредвидени или непредсказуеми начини“, съобщава CNBC. Компанията предупреди, че тези системи биха могли да предприемат действия, които потребителите не са заявявали, да надхвърлят предоставените им права за достъп, да игнорират инструкции или дори да се противопоставят на опитите за контрол върху тях.
Зад вашия AI агент все пак може да стои човек
Потенциалните последици са особено тревожни, тъй като съвременните AI агенти все по-често се проектират така, че да взаимодействат пряко с компютърни системи и външни услуги. Те могат да изпълняват или променят код, да изпращат съобщения и да извършват трансакции. Ако нещо се обърка, щетите могат да надхвърлят рамките на един неправилен отговор или неизпълнена задача.
Apple също така предупреди, че автономните агенти биха могли да скриват действията си, да укриват или манипулират информация, както и да генерират неточни или подвеждащи резултати. Неоторизираният достъп до вътрешни или външни системи може да изложи компанията на риск от съдебни искове, финансови загуби и увреждане на репутацията. Компанията също така призна, че възможността ѝ да упражнява надзор и контрол върху AI технологии на трети страни може да бъде ограничена.
AI вирус анализира дали си заслужава да ви хакне
Apple не е първата голяма технологична компания, която изразява подобни опасения. Alphabet, компанията майка на Google, наскоро посочи сходни рискове във финансовите си отчети, а Anthropic също подробно описа потенциални проблеми, свързани с автономните системи с изкуствен интелект, в проспекта си за първично публично предлагане (IPO). OpenAI и Microsoft също са обект на засилен контрол заради рисковете за сигурността, произтичащи от все по-способните инструменти с изкуствен интелект.
Коментарът на Apple обаче е от особено значение. За разлика от компании, чиято цялостна дейност е съсредоточена върху изкуствения интелект, Apple е гигант в сферата на потребителските технологии с огромна глобална клиентска база и значително влияние върху технологичната индустрия като цяло. Решението на компанията изрично да посочи AI агентите като потенциален бизнес риск подсказва, че опасенията, свързани с тази технология, вече не се ограничават само до разработчиците на изкуствен интелект и специалистите по киберсигурност.
Давате повече данни на AI, отколкото осъзнавате
Съществува и интересен контраст между предупреждението на Apple и собствените амбиции на компанията. Тя работи по разширяване на възможностите си в областта на изкуствения интелект, включително като прави Siri по-полезна и способна да изпълнява все по-сложни заявки. В понеделник Джон Търнъс, изпълнителен директор в компанията, определи агентните възможности като обещаващи инструменти за потребителите, като същевременно подчерта, че сигурността и поверителността трябва да останат приоритет. Той също така посочи, че според Apple има значителен потенциал за разширяване на функционалността на Siri.
Експерт: Прахосваме трилиони за развитието на AI
Европейски телекоми искат услуга срещу Starlink на Мъск
Идва едно трезво осъзнаване: докато софтуерът става все по-независим, титаните, които изграждат тези дигитални архитектури, започват да разбират, че някои кутии, веднъж отворени, отказват да бъдат затворени отново. Откровената оценка на Apple служи като напомняне, че истинската технологична зрялост изисква да се изправим пред непредсказуемите сенки, хвърляни от нашите собствени дигитални творения.
Anthropic вижда огромни ползи от AI, но и рискове
Google знае повече за нас, отколкото осъзнаваме
Индустрията се надпреварва да направи изкуствения интелект по-автономен, но дори компаниите, които инвестират сериозно в тази технология, осъзнават, че по-голямата независимост носи и по-големи рискове. Предизвикателството ще бъде да се гарантира, че тези системи остават под реален човешки контрол, докато възможностите им продължават да нарастват.
Добави ни в предпочитани източници в Google
