Г енеративният изкуствен интелект (Gen AI) навлиза стремоглаво във все повече услуги и сфери. Очаквано, не всички от тях са положителни за обществото.
Екстремистки групи са започнал да експериментират с Gen AI и други форми на изкуствен интелект, за да създават ново "поколение" пропаганда и да намират начини да заобикалят защитите на социалните мрежи срещу тяхното съдържание. Това съобщават от организацията Tech Against Terrorism пред изданието Wired.
"Най-голямото ни притеснение е, ако терористите започнат да използват Gen AI, за да манипулират големи количества изображения. Това може да унищожи хеш-шеринга и е огромен риск", казва Адам Хадли, изпълнителен директор на организацията.
Хеш-шерингът е метод, който ИТ гигантите използват от години, за да могат системите им да разпознават и блокират екстремистко съдържание. За целта компаниите изграждат огромни бази данни с такова съдържание и го превръщат в хеш кодове, които автоматично си споделят. Така системите много по-бързо и ефективно откриват съдържанието и го премахват, често в рамките на секунди или минути от публикуването му.
ЕС въвежда закон за достъпа и използването на данни
Екстремистите пък постоянно се опитват да намират начини да заобикалят метода. И изкуственият интелект изглежда им помага. Хадли казва, че екипът на организацията вече намира средно около 5000 публикации седмично, които са с екстремистко съдържание и генерирани от изкуствен интелект. Това включва и изображения. Според Хадли, може в рамките на около шест месеца, екстремистите да намерят начин да използват Gen AI, за да заобикалят хеш-шеринг ограниченията за изображения.
Засечени са различни видове съдържание - текст, снимки и дори е намерена система, която чрез изкуствен интелект превръща говор в текст и е специално оптимизирана за екстремистка пропаганда. Направена е и програма, която да създава интернет колажи, карикатури и "мемета" с терористични призиви и пропаганда. Други системи пък могат бързо да превеждат пропагандата на множество езици.
Мъск за AI: Не знаем дали можем да го контролираме
Кои са катастрофалните рискове на AI
Хадли казва, че организацията започва партньорство с Microsoft, за да видят как Gen AI може да се използва за защита и превенция от подобно съдържание. Очакванията са и други компании и организации да се включат към усилията със свои проекти и идеи, като амбицията е това да стане бързо, тъй като усилията на екстремистите напредват.
Apple хваната неподготвена от генеративния AI
Google подобрява светофарите с AI
Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.
За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.
