Н аскоро Google започна постепенното активиране на обновената си търсачка с изкуствен интелект. Функцията AI Overviews ще помага на хората, като им дава по-подробни отговори на по-сложни въпроси директно в резултатите на търсачката.
Тя обаче предизвика и доста критики, след като беше "уловена" да генерира грешни и дори опасни отговори. Например да съветва хората да се вторачват в Слънцето по 20 минути на ден или да ядат по един камък дневно за здраве.
Google обясни в блога си, че AI Overviews действително допускат грешки, но заяви, че те са малък процент и се получават при определени ситуации. Компанията пояснява, че AI Overviews работи по по-различен начин от останалите умни алгоритми. Функцията е внедрена в ядрото на търсачката, като я използва, за да търси релевантна информация в интернет за конкретния въпрос.
OpenAI спряла пет опита за манипулация на моделите ѝ
В отговорите се прилага информация от най-добрите сайтове според търсачката. Затова AI Overviews по-рядко "халюцинира", т.е. си измисля неверни факти. А грешките са следствие най-вече на неразбрани въпроси.
Google казва, че функцията все още изпитва трудности в разбирането на хумор, сатира, някои нюанси на натуралния език или просто липса на достатъчно информация по въпроса. Компанията коментира и конкретно казуса с препоръката за яденето на камъни, като казва, че това е един от примерите за неразбиране на сатира и затова системата е избрала публикация от сатиричния сайт The Onion, която пък е била препубликувана в страницата на разработчик на геоложки софтуер.
Вътрешни документи разкриват тайните на Google
Яжте камъни за здраве: Защо AI оглупява все повече
Google допълва, че активно работи по коригирането на всички открити грешки. Решенията са различни - от пренаписване на информацията, до премахване на отговори, които нарушават правилата на компанията до добавяне на филтри и инструкции за алгоритъма.
AI влошава обслужването на клиентите
Изкуственият интелект е расист, но не го осъзнава
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
