С ъздателят на ChatGPT, OpenAI, обяви, че през последните три месеца е засякъл и спрял пет "тайни операции за влияние" върху алгоритмите и моделите ѝ. В сайта си компанията описа, че целта на тези операции е била да се повлияе на общественото мнение и на политически резултати.
Петте операции са искали да използват моделите на OpenAI, за да "разпространяват и подкрепят подвеждаща дейност из Интернет". Компанията казва, че и петте кампании са били разкрити и преустановени. Засега няма индикации, че са имали значителен ефект върху аудиторията или са увеличили разпространението си заради алгоритмите.
OpenAI описва петте операции, които са разкрити и спрени. Компанията не казва кой стои зад тях, но описва откъде произлизат географски.
Първата е кръстена Bad Grammar. Дейността ѝ е била предимно в приложението Telegram в Украйна, Молдова, Балтийските страни и САЩ, като географски произлиза от Русия. Авторите на кампанията са използвали моделите на OpenAI, за да подобряват програмен код за ботове в Telegram, както и да създават кратки политически коментари, които да разпространяват в приложението.
Разбиха най-големия ботнет в света и арестуваха лидера
Втората кампания е била от китайската хакерска мрежа Spamouflage. Тя е използвала алгоритмите, за да анализира активността на хората в социалните мрежи, да генерира текстове на няколко езика, които са разпространявани в различни платформи и отново за програмиране.
Третата операция е кръстена Dopplelganger, произлизаща отново от руска територия. Авторите ѝ са използвали моделите, за да генерират коментари на няколко езика, които да разпространяват в социални мрежи. Генерирали са и текстове, които са резюмирали новини в публикации за Facebook, превеждали са и са редактирали текстове за сайтове, свързани с дейността им.
Четвъртата операция е кръстена IUVM (Международен съюз за виртуални медии), произлизаща от иранска територия. Тя е използвана за превод на дълги текстове, заглавия, елементи за уебстраници.
Вътрешни документи разкриват тайните на Google
OpenAI е кръстила последната операция Zero Zeno. Тя произлиза от израелска територия и е използвана за сходни дейности като предишните. Съдържанието и на петте е било насочено към актуални политически теми, конфликти и е разпространявало определени гледни точки и критики.
AI разви политически възгледи и не е ясно защо
Какви са новите функции и алгоритъм за ChatGPT
OpenAI казва, че продължава работата по откриване и преустановяване и на други опити за злоупотреба с алгоритмите ѝ. За целта си сътрудничи с външни експерти и партньори, независими организации, институции и други, за да може да им противодейства. Компанията казва, че ще публикува доклади за разкритите кампании и занапред.
AI влошава обслужването на клиентите
Изкуственият интелект е расист, но не го осъзнава
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
