И зкуственият интелект (AI) несъмнено ще има много ползи за обществото, но не трябва да се подценяват и множеството рискове. Един от тях е можем ли да имаме доверие на това, което алгоритмите ни казват.
Може би не повече, отколкото бихме се доверили на човек. Разликата обаче е, че при хората обикновено има начин да се разбере. А при AI, който ще работи с много повече информация, би било много по-трудно. Особено като липсва и реална комуникация.
Освен това има и друг риск - съзнателно "отравяне" на алгоритмите, за да боравят неправилно с информацията. Или пък да боравят с неправилна информация. Дори има нов софтуер, който се казва Nightshade и е създаден с тази цел, съобщава VentureBeat.
Целта на Nightshade е да "трови" AI моделите, за да не могат да използват творбите на художници. Софтуерът вече се разпространява безплатно и е разработен от учени от Университета на Чикаго.
AI засяга между 40% и 60% от работниците по света
Той използва платформата PyTorch, за да разпознае обектите в кадъра и след това добавя специфични маркери в пикселите. Визуално за очите на хората няма промяна на изображението. За алгоритмите обаче снимката или картината вече изглежда по съвсем различен начин. "Например за човек изображението може да е крава на зелена поляна, но AI моделът може да види голяма чанта на тревата", казват учените.
Авторите казват, че Nightshade е създаден да бъде "атакуващ инструмент", т.е. целенасочено да обърква AI. Идеята - да не може алгоритъмът да опознава стила на художника и да го имитира.
Рискът обаче е AI моделите да се научат да разпознават погрешно цели категории обекти и то не само в кадри, които са манипулирани от Nightshade. Така прецизността на алгоритмите може да се влоши за всички.
От една страна, така художниците, фотографите и дизайнерите могат да защитават творбите си от копиране и имитиране от AI. От друга, увреждането на AI може да срине доверието към всички алгоритми. Създателите на Nightshade казват, че това не е целта им и просто искат алгоритмите да бъдат обучавани със законно придобити данни, за които е платен лиценз, а не просто да събират наред всичко в интернет.
Google очаква AI да промени смартфоните
Прекалява ли ИТ индустрията с манията по AI
Тенденцията за съзнателно "отравяне" на алгоритмите и базите данни обаче се засилва и не се прилага само за картини. Това е още едно предизвикателство за компаниите, които разработват AI и риск за ползвателите му, тъй като става още по-трудно да се знае дали алгоритъмът е използвал коректно данните, които е получил и дали изобщо те са били верни.
New York Times заведе дело срещу Microsoft и OpenAI
ChatGPT разви "мързел", OpenAI не знае защо
Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.
За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.
криза, която тихо расте" />
