Apple: Внимавайте с AI, може да се държи непредвидимо
Източник: Apple

П рез по-голямата част от изминалата година компаниите в сферата на изкуствения интелект популяризираха все по-способни AI агенти, които могат да изпълняват задачи, да взаимодействат със софтуер и да вземат решения с минимална човешка намеса. С нарастването на автономността на тази технология обаче зачестяват и предупрежденията за потенциалните опасности, свързани с нея. Сега Apple се присъединява към растящия списък от компании, които открито признават тези рискове, превръщайки се в най-значимото корпоративно име до момента, отправило подобно предупреждение.

В последния си финансов отчет, Apple изрично посочи възможността AI агентите да се държат по „непредвидени или непредсказуеми начини“, съобщава CNBC. Компанията предупреди, че тези системи биха могли да предприемат действия, които потребителите не са заявявали, да надхвърлят предоставените им права за достъп, да игнорират инструкции или дори да се противопоставят на опитите за контрол върху тях. 

Зад вашия AI агент все пак може да стои човек

Потенциалните последици са особено тревожни, тъй като съвременните AI агенти все по-често се проектират така, че да взаимодействат пряко с компютърни системи и външни услуги. Те могат да изпълняват или променят код, да изпращат съобщения и да извършват трансакции. Ако нещо се обърка, щетите могат да надхвърлят рамките на един неправилен отговор или неизпълнена задача. 

Apple също така предупреди, че автономните агенти биха могли да скриват действията си, да укриват или манипулират информация, както и да генерират неточни или подвеждащи резултати. Неоторизираният достъп до вътрешни или външни системи може да изложи компанията на риск от съдебни искове, финансови загуби и увреждане на репутацията. Компанията също така призна, че възможността ѝ да упражнява надзор и контрол върху AI технологии на трети страни може да бъде ограничена. 

AI вирус анализира дали си заслужава да ви хакне

Apple не е първата голяма технологична компания, която изразява подобни опасения. Alphabet, компанията майка на Google, наскоро посочи сходни рискове във финансовите си отчети, а Anthropic също подробно описа потенциални проблеми, свързани с автономните системи с изкуствен интелект, в проспекта си за първично публично предлагане (IPO). OpenAI и Microsoft също са обект на засилен контрол заради рисковете за сигурността, произтичащи от все по-способните инструменти с изкуствен интелект. 

Коментарът на Apple обаче е от особено значение. За разлика от компании, чиято цялостна дейност е съсредоточена върху изкуствения интелект, Apple е гигант в сферата на потребителските технологии с огромна глобална клиентска база и значително влияние върху технологичната индустрия като цяло. Решението на компанията изрично да посочи AI агентите като потенциален бизнес риск подсказва, че опасенията, свързани с тази технология, вече не се ограничават само до разработчиците на изкуствен интелект и специалистите по киберсигурност.

Давате повече данни на AI, отколкото осъзнавате

Съществува и интересен контраст между предупреждението на Apple и собствените амбиции на компанията. Тя работи по разширяване на възможностите си в областта на изкуствения интелект, включително като прави Siri по-полезна и способна да изпълнява все по-сложни заявки. В понеделник Джон Търнъс, изпълнителен директор в компанията, определи агентните възможности като обещаващи инструменти за потребителите, като същевременно подчерта, че сигурността и поверителността трябва да останат приоритет. Той също така посочи, че според Apple има значителен потенциал за разширяване на функционалността на Siri.

Експерт: Прахосваме трилиони за развитието на AI

Европейски телекоми искат услуга срещу Starlink на Мъск

Идва едно трезво осъзнаване: докато софтуерът става все по-независим, титаните, които изграждат тези дигитални архитектури, започват да разбират, че някои кутии, веднъж отворени, отказват да бъдат затворени отново. Откровената оценка на Apple служи като напомняне, че истинската технологична зрялост изисква да се изправим пред непредсказуемите сенки, хвърляни от нашите собствени дигитални творения. 

Anthropic вижда огромни ползи от AI, но и рискове

Google знае повече за нас, отколкото осъзнаваме

Индустрията се надпреварва да направи изкуствения интелект по-автономен, но дори компаниите, които инвестират сериозно в тази технология, осъзнават, че по-голямата независимост носи и по-големи рискове. Предизвикателството ще бъде да се гарантира, че тези системи остават под реален човешки контрол, докато възможностите им продължават да нарастват. 

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Една или три? Колко „големи любови“ има човек през живота си според експертите

Една или три? Колко „големи любови“ има човек през живота си според експертите

Любопитно Преди 24 минути

Защо толкова често се вкопчваме в миналото и издигаме бившите си партньори на пиедестал? Психолози разкриват колко големи любови има човек през живота си и дали романтичната идея за единствената сродна душа е опасен мит

НАСА обяви амбициозен план: Строи постоянна база на Луната до 2032 година

НАСА обяви амбициозен план: Строи постоянна база на Луната до 2032 година

Любопитно Преди 25 минути

Космическата агенция сключи договори за милиарди с частни компании като SpaceX и Blue Origin. Сред новите технологии са ядрен луноход, космически влекачи и комуникационни кули

Снимката е илюстративна

Украйна разработва джобна метеорологична станция за сваляне на FPV дронове

Свят Преди 28 минути

Strilets Core съчетава метеорологични сензори и офлайн балистичен компютър за подпомагане на автоматизирани оръжейни установки

Русия отрече за участие на европейците в преговорите за Украйна

Русия отрече за участие на европейците в преговорите за Украйна

Свят Преди 9 часа

Мария Захаров: Този въпрос не е бил обсъждан

Мотоциклетист почина след катастрофа в Русе

Мотоциклетист почина след катастрофа в Русе

България Преди 9 часа

Пробата за алкохол и наркотици на 44-годишния шофьор на лекия автомобил са отрицателн

Милен Иванов: Не може на всяка мъгла полицай

Милен Иванов: Не може на всяка мъгла полицай

България Преди 10 часа

Експертът по национална сигурност: Подготовката на полицейските органи никога не е била адекватна на времето

Спасиха с хеликоптер дете, глътнало част от химикал

Спасиха с хеликоптер дете, глътнало част от химикал

България Преди 11 часа

В болницата в Разлог е оказана незабавна медицинска намеса

Смяна в ръководството на Kaufland България

Смяна в ръководството на Kaufland България

България Преди 11 часа

Петя Владимирова поема поста председател на Управителния съвет

Турски съд освободи адвоката на Екрем Имамоглу

Турски съд освободи адвоката на Екрем Имамоглу

Свят Преди 12 часа

Турската прокуратура иска до 2352 години затвор за отстранения кмет на Истанбул

Огромно задръстване на АМ "Тракия" след катастрофа

Огромно задръстване на АМ "Тракия" след катастрофа

България Преди 12 часа

Движението е силно затруднено

Мъж с питон заплашва в офис във Велико Търново

Мъж с питон заплашва в офис във Велико Търново

България Преди 13 часа

Той заплашил, че ще хвърли змията върху един от служителите

„Такси за рая“ - пътуване между смеха и абсурда и едно бдение, което се превръща в балканска комедия

„Такси за рая“ - пътуване между смеха и абсурда и едно бдение, което се превръща в балканска комедия

Любопитно Преди 13 часа

Черната комедия на Иван Ничев и Тодор Чапкънов пристига с гала премиера на 1 декември

Ученик на 15 години беше арестуван с дрога, след като го изведоха от клас

Ученик на 15 години беше арестуван с дрога, след като го изведоха от клас

България Преди 13 часа

У него е намерено също малко количество наркотично вещество и електронна везна

Обвиненият за помагач за убийството на Илиян Филипов остава в ареста

Обвиненият за помагач за убийството на Илиян Филипов остава в ареста

България Преди 13 часа

Мъжът беше арестуван на 11 ноември край дома си в Пазарджи

КЗП глоби търговска верига с 30 000 евро след инцидент с дете във Варна

КЗП глоби търговска верига с 30 000 евро след инцидент с дете във Варна

Парите ни Преди 13 часа

Друго дете също е пострадало на същата площадка, а установена още през февруари повреда не е била отстранена

България е последна в ЕС по възможности за успех с талант и труд

България е последна в ЕС по възможности за успех с талант и труд

Парите ни Преди 13 часа

Корупцията, слабите институции и липсата на взаимна подкрепа ограничават шансовете за развитие