И зкуственият интелект ще има големи ползи за обществото и хората на индивидуално ниво. Поне такива са очакванията. И все повече хора вече се доверяват на ботовете и се съветват с тях по различни въпроси.
Включително и за здравословни проблеми. Това обаче може да се окаже голям проблем, съобщава Ars technica. Според проучване на учени от Университета на Станфорд, чатботовете като ChatGPT могат да са опасни здравни съветници.
Експертите са питали ChatGPT дали би помогнал на пациенти с шизофрения. Ботът отговорил отрицателно и ги препратил към лекар. Но, когато въпросите били преработени и превърнати в типичните, които хората, склонни към самоубийство, задават, ботът помагал с конкретни отговори.
Учените започнали проучването след увеличаване на новините и публикациите в социалните мрежи за AI ботове, които валидират теории на конспирацията и са решили да проверят как се справят с помощта за хора с различни заболявания. Анализът открива, че популярните AI системи "систематично показват дискриминационно поведение спрямо хора с психически проблеми и отговарят по начини, които нарушават типичните терапевтични правила за сериозни симптоми, когато са използвани като заместител на терапията".
Gemini ще може да използва и приложенията в смартфона
Няма официални данни колко хора обсъждат здравните си проблеми с чатботовете, но се смята, че са милиони. Проучването на Станфорд е критикувано, че се концентрира върху негативните последици и не взима предвид потенциалните положителни резултати. Идеята му обаче е, че потърси докъде достигат рисковете, а не ползите.
"Ние не казваме, че използването на AI за терапия е лошо. А призоваваме да се мисли критично за ролята на AI в терапията. AI има голям потенциал в терапиите, но трябва да мислим критично каква точно ще е неговата роля", коментира Ник Хабер, съавтор на проучването.
ChatGPT може да пилотира космически кораб шокиращо добре, показват ранните тестове
Алтман иска технологичен капитализъм и пари за всички
Изненадващо, специализираните AI ботове за терапия, се представят по-зле от общите като ChatGPT. Тези ботове редовно са давали съвети, които са в противоречие с принципите за намеса при криза или изобщо не са успявали да разберат контекста на ситуацията. Учените подчертават, че тези платформи се използват от милиони хора, без никакъв регулаторен надзор и без нужните лицензи, които са задължителни за хората-терапевти.
Проучване: Повечето AI чатботове дадат опасни отговори
Apple задава неудобния въпрос за AI: полезен ли е
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
