Може ли изкуственият интелект да бъде „отровен“
Източник: iStock/GettyImages
2

И зкуственият интелект (AI) е много популярен в момента и изглежда сякаш е нова, атрактивна технология. Всъщност, това са предимно резултатите на години труд в обучаването и усъвършенстването на досегашните проекти.

Очакванията към AI са много големи. Толкова големи, че да преобърнат и преоткрият цели индустрии и да променят начина на живот на цялото човечество. Това е и голяма отговорност, която логично повдига въпроса за доверието в AI. Как може да сме сигурни, че тези алгоритми ще взимат правилните решения? Може ли да им се повлияе?

И макар да има множество и различни умни алгоритми, които се конкурират помежду си, те имат и много общо помежду си. Най-вече фактът, че практически всички алгоритми разчитат на някаква база данни с информация за конкретната тема, по която са обучавани. AI за разпознаване на обекти в снимки например се нуждае от кадри, за да ги анализира и да се научи как да различава обектите. AI за генериране на текст, както е популярният в момента ChatGPT, има нужда от база данни, която има разнообразна информация, която да използва като отправна точка, за да създава своите идеи.

Именно това може да се окаже слабо звено на AI като цяло – възможността да бъде „отровен“ чрез компрометиране не са алгоритъма, а на данните, с които се обучава. Това предупреждават учени от университета ETCH Zurich, които са направили проучване заедно с експерти от Google, Nvidia и Robust Intelligence, съобщава онлайн изданието IEEE Spectrum.

CAIDP: GPT-4 е опасен и трябва да бъде спрян

Те са открили поне два метода за „отравяне“ на базите данни, което може да повлияе пряко на развитието на изкуствения интелект, който използва тази информация. Добрата новина е, че няма информация методите да са познати на хакери и да са били прилагани.

Лошата е, че атаките са много лесни за реализиране и не изискват големи усилия за реализация. Не е нужно да се компрометира голяма част от базата, за да се изкриви обучението и съответно разбирането на алгоритъма. Един от методите е струвал само 60 долара, за да се „отрови“ 0.01% от две бази данни. Такива атаки може да манипулират AI в различни посоки – например да взима сексистки или расистки решения, да развие други тези и мнения, които са в противоречие с основната му цел и т.н.

Бил Гейтс: Започна ерата на изкуствения интелект

Мъск иска спиране на опитите с изкуствен интелект

Възможно е чрез тези методи и да се внедри „задна врата“ за по-късен достъп до модела и управление на поведението му в последствие. Колкото по-сложен е един алгоритъм и колкото по-голяма цел има, от толкова по-огромна база данни има нужда, за да се обучи. Това пък прави откриването на „отровена“ информация вътре в нея още по-трудно.

Учените препоръчват да се разработят методи за допълнителна защита на базите данни от манипулации. Някои рисковете трудно могат да се предвидят. Например чатботовете често използват събрана от интернет информация. В нея неизменно ще попаднат и фалшиви новини или дори съзнателно компрометирани интернет страници и публикации с цел да подведат AI. Трудно може да се направи верификация на милиони публикации.

ChatGPT застрашава 19% от професиите в САЩ

Въпреки това си струва да се помисли за решения, казват учените. В противен случай има рискове както от гледна точка на по-опасни манипулации, така и чисто търговски опити за подвеждане на изкуствен интелект да предпочита даден бранд повече от друг и съответно да го препоръчва при определени въпрос, казва Флориан Трамер от ETH Zurich.

Наследникът на ChatGPT е още по-умен и "визуален"

Китайският отговор на ChatGPT се казва ERNIE Bot

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Коментари 2
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

2 коментара
 
Семеен скандал... - Теб нещо друго освен пари интересува ли те? - Да! - Какво? - Къде са?
Прочети целия
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни

Последни

Израелски обстрел в Газа, загинаха 10 души от семейството на лидера на "Хамас"

Израелски обстрел в Газа, загинаха 10 души от семейството на лидера на "Хамас"

Свят Преди 9 минути

Телата са били транспортирани в болницата "Ал Ахли" в Газа

Развитие по делото за убийството на полицаите, пометени от автобус с мигранти

Развитие по делото за убийството на полицаите, пометени от автобус с мигранти

България Преди 23 минути

Тежкият инцидент се случи през лятото на 2022 г.

<p>Брендо поиска да излежи у нас присъдите си от Италия и Румъния</p>

Евелин Банев-Брендо поиска да търпи у нас наложените му присъди в Италия и Румъния

България Преди 59 минути

Той бе обявен за международно издирване през 2018 година

Зафиров: Ако стигнем до трети мандат – разумният подход е да се говори с всички

Зафиров: Ако стигнем до трети мандат – разумният подход е да се говори с всички

България Преди 1 час

Това заяви изпълняващият функциите на председател на БСП Атанас Зафиров след консултациите при президента

Снимката е илюстративна

Мъж кихна и се случи нещо ужасяващо с червата му

Свят Преди 1 час

Мъж от Флорида по-рано този месец имал ужасно преживяване

<p>Няма изтичане на радиоактивни води от АЕЦ &quot;Козлодуй&quot;, увери министър Малинов</p>

Министър Малинов: Няма изтичане на радиоактивни води при ремонта на АЕЦ "Козлодуй"

България Преди 1 час

Той изтъкна, че най-важният приоритет за развитието на ядрената енергетика в България е на първо място спазването на всички норми за безопасност

<p>Трети ден пожарникари се борят с огнената стихия в Сакар (ВИДЕО)</p>

Продължава борбата с огъня в Сакар: Трети ден пожарникари са на терен

България Преди 1 час

Първоначалните предположения за възникването на пожарите бяха човешка небрежност

Кошмарът на холивудската легенда Лана Търнър и нейната дъщеря

Кошмарът на холивудската легенда Лана Търнър и нейната дъщеря

Свят Преди 1 час

Лана Търнър е една от първите големи кино звезда, а личният ѝ живот е бурен и колоритен

Снимката е илюстративна

Почина най-смъртоносният екзекутор в Бангладеш

Свят Преди 1 час

74-годишният Шахджахан Бхуян бил приет в болница в понеделник

<p>Ужасяваща черна статистика: Ето какъв е броят на убитите журналисти във войната в Газа</p>

Ужасяваща черна статистика: Над 100 са убитите журналисти във войната в Газа

Свят Преди 1 час

"Журналистите трябва да бъдат защитавани независимо от страната, в която се намират"

<p>Тестват революционно лекарство, от което никнат нови зъби</p>

За пръв път: Лекарство за възстановяване на зъби ще бъде тествано върху хора

Любопитно Преди 2 часа

В първата фаза на изпитването ще участват здрави хора, на които липсва поне един зъб

Рядка, смъртоносна „месоядна бактерия“ в Япония – Ето какво трябва да знаете

Рядка, смъртоносна „месоядна бактерия“ в Япония – Ето какво трябва да знаете

Свят Преди 2 часа

Синдром на стрептококов токсичен шок се причинява от бактерии Streptococcus pyogenes или "Strep A"

<p>Запрянов: Това е една от най-наглите и абсурдни руски лъжи&nbsp;</p>

Атанас Запрянов: Последните избори в България преминаха под сянката на кремълската дезинформация

България Преди 2 часа

Противодействието на хибридната война на Кремъл в информационното и дигитално пространство днес е от първостепенна важност, каза той