М ного хора автоматично приемат, че разговорите им с изкуствен интелект като ChatGPT са поверителни. Ботовете многократно предупреждават, че части от разговорите могат да бъдат използвани за обучението на алгоритмите, но се оказва, че има и още един риск - споделените данни може да се окажат и публични, съобщава Ars technica.
Личните разговори с ChatGPT на OpenAI може да са индексирани от Google и други търсачки, което прави публично достъпни за търсене. Този пропуск в поверителността произтича от функция, която, макар и на пръв поглед безобидна, има дълготрайни и непредвидени последици за потребителските данни.
Проблемът е свързан с функцията за споделяне на ChatGPT, която позволява на потребителите да генерират публичен URL адрес за конкретен разговор. Проектирана за сътрудничество и споделяне на интересни разговори, функцията включва малко, но важно квадратче с опцията „Направи този чат откриваем“. Под него, с дребен шрифт, има предупреждение, че активирането на това ще позволи на чата да се показва в уеб търсенията. Изглежда, че много потребители, или по погрешка, или без напълно да разбират последиците, са отметнали това квадратче, превръщайки личните си диалози в публични, достъпни за търсене уеб страници.
Наистина ли оглупяваме, ако използваме AI редовно
OpenAI описа това като „краткотраен експеримент“, но отзивите бяха доста негативни. Интернет потребители, използвайки прости команди за търсене в Google, успяха да разкрият хиляди разговори, съдържащи множество чувствителни данни. Примерите варират от лични и емоционални проблеми, като дискусии за психично здраве и съвети за връзки, до строго поверителна професионална информация. Разкрити са автобиографии с пълни имена, имейл адреси и трудова история. Други индексирани чатове включват вътрешни бизнес стратегии, правни документи и собствен софтуерен код, което представлява значителен риск както за отделни лица, така и за компании.
Реакцията на OpenAI беше бърза. След обществената реакция и съобщенията за проблема, главният директор по информационна сигурност на компанията, Дейн Стъки, обяви, че функцията за откриваемост е премахната от платформата. Стъки я описа като експеримент, който „въвежда твърде много възможности за хората случайно да споделят неща, които не са възнамерявали“. OpenAI незабавно започна да работи с Google и други търсачки, за да премахне индексирането на споделените чатове и да ги изтрие от резултатите от търсенето, допълва компанията.
Тестовете "не съм робот" са напълно безполезни пред AI
Microsoft иска да промени как сърфираме в интернет
Въпреки че функцията изискваше съгласие, инцидентът подчертава критичен недостатък в дизайна на потребителския интерфейс и липса на прозрачност по отношение на поверителността на данните. Терминът „откриваем“ не беше широко разбираем от средностатистическия потребител, което доведе до фалшиво чувство за сигурност, че разговорите им, макар и споделени чрез линк, ще останат недостъпни за търсене от обществеността.
Алтман: Идва голяма криза с AI измами и самоличности
Gemini спечели златен медал на олимпиада по математика
Случаят напомня за деликатния баланс между иновациите и поверителността на потребителите, особено в бързо развиващия се свят на изкуствения интелект. Той подчертава необходимостта от ясен и недвусмислен език в настройките за поверителност и по-предпазлив подход към функции, които биха могли неволно да разкрият лична информация.
ChatGPT вече може да работи вместо потребителя
Apple задава неудобния въпрос за AI: полезен ли е
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
