Може ли изкуственият интелект да бъде „отровен“
Източник: iStock/GettyImages

И зкуственият интелект (AI) е много популярен в момента и изглежда сякаш е нова, атрактивна технология. Всъщност, това са предимно резултатите на години труд в обучаването и усъвършенстването на досегашните проекти.

Очакванията към AI са много големи. Толкова големи, че да преобърнат и преоткрият цели индустрии и да променят начина на живот на цялото човечество. Това е и голяма отговорност, която логично повдига въпроса за доверието в AI. Как може да сме сигурни, че тези алгоритми ще взимат правилните решения? Може ли да им се повлияе?

И макар да има множество и различни умни алгоритми, които се конкурират помежду си, те имат и много общо помежду си. Най-вече фактът, че практически всички алгоритми разчитат на някаква база данни с информация за конкретната тема, по която са обучавани. AI за разпознаване на обекти в снимки например се нуждае от кадри, за да ги анализира и да се научи как да различава обектите. AI за генериране на текст, както е популярният в момента ChatGPT, има нужда от база данни, която има разнообразна информация, която да използва като отправна точка, за да създава своите идеи.

Именно това може да се окаже слабо звено на AI като цяло – възможността да бъде „отровен“ чрез компрометиране не са алгоритъма, а на данните, с които се обучава. Това предупреждават учени от университета ETCH Zurich, които са направили проучване заедно с експерти от Google, Nvidia и Robust Intelligence, съобщава онлайн изданието IEEE Spectrum.

CAIDP: GPT-4 е опасен и трябва да бъде спрян

Те са открили поне два метода за „отравяне“ на базите данни, което може да повлияе пряко на развитието на изкуствения интелект, който използва тази информация. Добрата новина е, че няма информация методите да са познати на хакери и да са били прилагани.

Лошата е, че атаките са много лесни за реализиране и не изискват големи усилия за реализация. Не е нужно да се компрометира голяма част от базата, за да се изкриви обучението и съответно разбирането на алгоритъма. Един от методите е струвал само 60 долара, за да се „отрови“ 0.01% от две бази данни. Такива атаки може да манипулират AI в различни посоки – например да взима сексистки или расистки решения, да развие други тези и мнения, които са в противоречие с основната му цел и т.н.

Бил Гейтс: Започна ерата на изкуствения интелект

Мъск иска спиране на опитите с изкуствен интелект

Възможно е чрез тези методи и да се внедри „задна врата“ за по-късен достъп до модела и управление на поведението му в последствие. Колкото по-сложен е един алгоритъм и колкото по-голяма цел има, от толкова по-огромна база данни има нужда, за да се обучи. Това пък прави откриването на „отровена“ информация вътре в нея още по-трудно.

Учените препоръчват да се разработят методи за допълнителна защита на базите данни от манипулации. Някои рисковете трудно могат да се предвидят. Например чатботовете често използват събрана от интернет информация. В нея неизменно ще попаднат и фалшиви новини или дори съзнателно компрометирани интернет страници и публикации с цел да подведат AI. Трудно може да се направи верификация на милиони публикации.

ChatGPT застрашава 19% от професиите в САЩ

Въпреки това си струва да се помисли за решения, казват учените. В противен случай има рискове както от гледна точка на по-опасни манипулации, така и чисто търговски опити за подвеждане на изкуствен интелект да предпочита даден бранд повече от друг и съответно да го препоръчва при определени въпрос, казва Флориан Трамер от ETH Zurich.

Наследникът на ChatGPT е още по-умен и "визуален"

Китайският отговор на ChatGPT се казва ERNIE Bot

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Трагедия на летище в Милано: Мъж загина, засмукан от самолетен двигател преди излитане

Трагедия на летище в Милано: Мъж загина, засмукан от самолетен двигател преди излитане

Свят Преди 19 минути

Полетите, планирани да кацнат на летище Милано Бергамо, бяха пренасочени тази сутрин в резултат на произшествието

Пристигна вторият кораб с тръби, предназначени за новия газов коридор

Пристигна вторият кораб с тръби, предназначени за новия газов коридор

България Преди 21 минути

Първата доставка беше направена още в края на март и вече е използвана за изграждането на участъка от Кулата до Кресна

Влади Кулев: Адреналинът е изключително лош съветник, когато сме на пътя

Влади Кулев: Адреналинът е изключително лош съветник, когато сме на пътя

Технологии Преди 43 минути

Експертът в социалната кампания на „Нет Инфо“ и CarMarket.bg за безопасно шофиране „Отговорни на пътя“ разчита на опит и знания, с каквито малцина в света могат да се похвалят

Прокуратурата ще обжалва освобождаването на обвинените за побой на пл. "Славейков"

Прокуратурата ще обжалва освобождаването на обвинените за побой на пл. "Славейков"

България Преди 53 минути

СРП смята, че най-подходящата мярка е "задържане под стража" предвид високата обществена опасност на деянието

Мъчителна смърт на куче, убито с наденички с пирони

Мъчителна смърт на куче, убито с наденички с пирони

Свят Преди 53 минути

Собственикът и треньор на Бруно заяви пред италиански медии, че знае кой е извършителят.

Майкъл Дъглас

Край, но не съвсем: Майкъл Дъглас спира с актьорството

Свят Преди 57 минути

„Работил съм доста усилено почти 60 години и не исках да бъда един от онези хора, които падат мъртви на снимачната площадка“, обяснява холивудската легенда

"Сега ги удрят много сериозно... ": Замразената военна помощ за Украйна може отново да "потече"

"Сега ги удрят много сериозно... ": Замразената военна помощ за Украйна може отново да "потече"

Свят Преди 59 минути

Серия от срещи на между представители на САЩ и Украйна може да доведе до възобновяване на част от оръжейните доставки

"И просто ей така...": Фенове откриха голяма грешка в новия епизод на сериала

"И просто ей така...": Фенове откриха голяма грешка в новия епизод на сериала

Любопитно Преди 1 час

Зрителите осъзнаха, че има несъответствие в сюжета на героинята на Никол Ари Паркър в третия сезон на "И просто ей така..."

"Хладилна цигара": Най-новата TikTok тенденция на Gen Z

"Хладилна цигара": Най-новата TikTok тенденция на Gen Z

Любопитно Преди 1 час

Новата алтернатива на цигарите набира милиони гледания в социалната мрежа

Скандални кадри на джипове по пясъка на плажа Паша дере край Варна

Скандални кадри на джипове по пясъка на плажа Паша дере край Варна

България Преди 1 час

Министърът на туризма Мирослав Боршош остро осъди случилото се, виновниците са наказани

Разкриха голямото богатство, което Джулиан Макмеън остави след смъртта си

Разкриха голямото богатство, което Джулиан Макмеън остави след смъртта си

Любопитно Преди 1 час

Най-известен с ролите си в сериалите "Nip/Tuck" и "Charmed", актьорът остави след себе си състояние от 16 милиона долара

<p>Надгробна плоча падна и уби 4-годишно момче</p>

4-годишно момче загина, след като надгробна плоча падна върху него

Свят Преди 1 час

Парамедици са се опитали да го спасят, но детето е починало при "трагичния инцидент"

Снимката е илюстративна

Водорасли заляха плажовете по Черноморието: Ранна поява изненада туристите

България Преди 1 час

Появата на зелената трева е била забелязана и на плажната ивица в Свети Влас

Установиха фекално замърсяване на водата в детска градина във Великотърновско

Установиха фекално замърсяване на водата в детска градина във Великотърновско

България Преди 2 часа

От водоснабдителното дружество са направили промивки на водопровода след проверката на РЗИ

<p>Избягал лъв нападна майка с две деца на улицата в Пакистан</p>

Избягал лъв нападна майка с две деца на улицата в Пакистан

Свят Преди 2 часа

Докато някои минувачи бяха видени да се втурват да помогнат на майката и децата, собственикът на лъва беше там, но не направи опит да помогне

Дронове почистват Еверест (ВИДЕО)

Дронове почистват Еверест (ВИДЕО)

Свят Преди 2 часа

Непалска компания използва безпилотни апарати