И зкуственият интелект се развива много бързо и вече има доста чатботове и услуги, които го използват, за да генерират съдържание и да отговарят на въпроси. Компаниите се надпреварват да пускат нови и по-добри алгоритми, но има и доста неща за тях, които остават в тайна.
Освен това има и друг риск - как да знаем дали отговорите, които изкуственият интелект (AI) генерира, са верни? Как човек ще може да разбере дали алгоритъмът лъже?
В повечето случаи неточностите може да са провокирани от погрешни данни и интерпретации и да са неволни. Но няма как човек да е сигурен.
Затова учени от Университетите на Оксфорд, Кеймбридж и Йейл са направили своеобразен детектор на лъжата за изкуствен интелект. Той работи за генеративен AI, който разчита на езикови модели и бази данни. Това са най-разпространените в момента чатботове.
Детекторът може да различава неволните лъжи и неточности от целенасочените. В ИТ средите, неволните неточности и погрешни факти на AI се наричат "халюцинации". Те са дело най-вече на неточности в базата данни и погрешни интерпретации.
Идват ли новите синтетични социални мрежи
Учените са направили списък с над 20 000 въпроси и отговори от доверени източници. Ръчно са проверили и настроили няколкостотин от тях за коректност. След това тестват и чатбот като GPT-3.5, който да отговаря на въпросите и сверяват дали ще отговори правилно или не.
Следващата стъпка е да кажат на бота да излъже в отговора. Следва и поредица от въпроси с отговор "да" или "не", които нямат общо с основните въпроси. Този процес позволява на учените да направят алгоритъм, който да открива характерните за чатботовете индикации, че лъжат.
Мъск за имплантите: Ще намалят риска от AI
Зукърбърг иска да излекува всички болести
Учените твърдят, че тестовете им са показали висока степен на ефективност на алгоритъма да разпознава лъжите от истината. Те обаче не могат да обяснят как и защо е толкова ефективен, но е факт. За момента детекторът не е готов за масово използване, като той се справя с по-малки бази данни. Предстои неговата допълнителна обработка, за да може да се справя и с по-големи езикови модели.
40% от служителите трябва да научат нови умения
AI на Microsoft може да генерира протеини
Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.
За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.
