Може ли изкуственият интелект да бъде „отровен“
Източник: iStock/GettyImages
2

И зкуственият интелект (AI) е много популярен в момента и изглежда сякаш е нова, атрактивна технология. Всъщност, това са предимно резултатите на години труд в обучаването и усъвършенстването на досегашните проекти.

Очакванията към AI са много големи. Толкова големи, че да преобърнат и преоткрият цели индустрии и да променят начина на живот на цялото човечество. Това е и голяма отговорност, която логично повдига въпроса за доверието в AI. Как може да сме сигурни, че тези алгоритми ще взимат правилните решения? Може ли да им се повлияе?

И макар да има множество и различни умни алгоритми, които се конкурират помежду си, те имат и много общо помежду си. Най-вече фактът, че практически всички алгоритми разчитат на някаква база данни с информация за конкретната тема, по която са обучавани. AI за разпознаване на обекти в снимки например се нуждае от кадри, за да ги анализира и да се научи как да различава обектите. AI за генериране на текст, както е популярният в момента ChatGPT, има нужда от база данни, която има разнообразна информация, която да използва като отправна точка, за да създава своите идеи.

Именно това може да се окаже слабо звено на AI като цяло – възможността да бъде „отровен“ чрез компрометиране не са алгоритъма, а на данните, с които се обучава. Това предупреждават учени от университета ETCH Zurich, които са направили проучване заедно с експерти от Google, Nvidia и Robust Intelligence, съобщава онлайн изданието IEEE Spectrum.

CAIDP: GPT-4 е опасен и трябва да бъде спрян

Те са открили поне два метода за „отравяне“ на базите данни, което може да повлияе пряко на развитието на изкуствения интелект, който използва тази информация. Добрата новина е, че няма информация методите да са познати на хакери и да са били прилагани.

Лошата е, че атаките са много лесни за реализиране и не изискват големи усилия за реализация. Не е нужно да се компрометира голяма част от базата, за да се изкриви обучението и съответно разбирането на алгоритъма. Един от методите е струвал само 60 долара, за да се „отрови“ 0.01% от две бази данни. Такива атаки може да манипулират AI в различни посоки – например да взима сексистки или расистки решения, да развие други тези и мнения, които са в противоречие с основната му цел и т.н.

Бил Гейтс: Започна ерата на изкуствения интелект

Мъск иска спиране на опитите с изкуствен интелект

Възможно е чрез тези методи и да се внедри „задна врата“ за по-късен достъп до модела и управление на поведението му в последствие. Колкото по-сложен е един алгоритъм и колкото по-голяма цел има, от толкова по-огромна база данни има нужда, за да се обучи. Това пък прави откриването на „отровена“ информация вътре в нея още по-трудно.

Учените препоръчват да се разработят методи за допълнителна защита на базите данни от манипулации. Някои рисковете трудно могат да се предвидят. Например чатботовете често използват събрана от интернет информация. В нея неизменно ще попаднат и фалшиви новини или дори съзнателно компрометирани интернет страници и публикации с цел да подведат AI. Трудно може да се направи верификация на милиони публикации.

ChatGPT застрашава 19% от професиите в САЩ

Въпреки това си струва да се помисли за решения, казват учените. В противен случай има рискове както от гледна точка на по-опасни манипулации, така и чисто търговски опити за подвеждане на изкуствен интелект да предпочита даден бранд повече от друг и съответно да го препоръчва при определени въпрос, казва Флориан Трамер от ETH Zurich.

Наследникът на ChatGPT е още по-умен и "визуален"

Китайският отговор на ChatGPT се казва ERNIE Bot

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Коментари 2
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

2 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни

Последни

Трифонов за сблъсъците в НС: Жалки хорица, препълнени от стремеж към власт, слава и пари

Трифонов за сблъсъците в НС: Жалки хорица, препълнени от стремеж към власт, слава и пари

България Преди 48 минути

Това, което се случи сутринта в българския парламент, не е само срамно, то е омерзително, коментира лидерът на ИТН

.

В търсене на изгубения медал: Неразказаната история на едно момиче с мечти

Любопитно Преди 1 час

Родена в Охайо, 13-годишната г-жа Болдън е една от 15-те осмокласници, избрани да представят град Кливланд в първото национално състезание по правопис в САЩ

Снимката е илюстративна

Кафе, коктейли, смутита: Напитките, които са по-дехидратиращи, отколкото сте очаквали

Любопитно Преди 1 час

Водата е най-добрият хидратант, но има напитки, които действително допринасят за дехидратацията

<p>Ето колко деца са родени в България през 2022 г.&nbsp;</p>

НСИ: Над 50 000 деца са родени през 2022 г. в България

Любопитно Преди 1 час

Общият брой на децата на възраст от 0 до 17 г. включително е 1 099 696

Храните с фибри помагат срещу "бирения корем", който е предвестник на много заболявания

Проучване алармира за нов популярен метод за отслабване при тийнейджъри

Любопитно Преди 1 час

Анализът включва данни, събрани между 2015 и 2021 г., от общо над 1,3 милиона пациенти

„Не съм лъжкиня“: Кейт Бекинсейл отвърна на обвиненията за пластична намеса

„Не съм лъжкиня“: Кейт Бекинсейл отвърна на обвиненията за пластична намеса

Любопитно Преди 1 час

49-годишната актриса привлече доста хейтъри в публикацията си в Instagram от бляскавата вечер в Кан

Vivacom лансира специален пакет комбинирани услуги за малкия бизнес

Vivacom лансира специален пакет комбинирани услуги за малкия бизнес

Любопитно Преди 2 часа

Телекомът надгражда своята подкрепа с популяризирането на предприемачи от цялата страна в рекламна кампания под надслов „Бизнес Великани“

Отмениха ученическа екскурзия, шофьорът бил с положителна проба за алкохол

Отмениха ученическа екскурзия, шофьорът бил с положителна проба за алкохол

България Преди 2 часа

Пътуването на първокласниците е спряно и заради неизправност на автобуса

Сайтът Oх, на мама! празнува трети рожден ден

Сайтът Oх, на мама! празнува трети рожден ден

Любопитно Преди 2 часа

Платформата, насочена към бъдещи и настоящи родители, предлага нови специални секции и още повече полезна информация

Съветът на ЕС одобри въвеждането на Истанбулската конвенция

Съветът на ЕС одобри въвеждането на Истанбулската конвенция

Свят Преди 2 часа

Тя предвижда събиране на данни и повишаване на осведомеността за прояви на насилие над жени и момичета

.

Процесът на века: Награждаван ветеран загуби дело за военни престъпления

Свят Преди 2 часа

Съдията заяви, че четири от шестте твърдения за убийства - всички отричани от войника - са по същество верни

Петков: В последните дни са налице атаки срещу парламентарната република

Петков: В последните дни са налице атаки срещу парламентарната република

България Преди 2 часа

Ние ще работим за демократично редовно правителство, каза съпредседателят на ПП

Apple iPhone 14 Pro

Как да заглушим нежелани обаждания с iPhone

Технологии Преди 2 часа

Смартфонът има лесна функция за сортиране на повиквания

Желязков за спречкването в НС: Ще има санкции, случилото се е недопустимо

Желязков за спречкването в НС: Ще има санкции, случилото се е недопустимо

България Преди 2 часа

За съжаление тези сцени ги наблюдаваме на същата дата като миналата година, заяви председателят на НС

Гешев със становище за отстраняването му: Недопустимо искане, ВСС е с изтекъл мандат

Гешев със становище за отстраняването му: Недопустимо искане, ВСС е с изтекъл мандат

България Преди 3 часа

Главният прокурор припомня, че е сезирал Конституционния съд с искане за тълкуване за текст от основния закон

Кендъл Дженър разголи гърдите си на яхта (СНИМКИ)

Кендъл Дженър разголи гърдите си на яхта (СНИМКИ)

Любопитно Преди 3 часа

Провокативният ѝ външен вид ни най-малко не я притесни