Meta съобщи, че разработва нови инструменти за защита на потребителите тийнейджъри от измами с цел "секстормоз" в платформата си Instagram, която беше обвинена от американски политици, че уврежда психическото здраве на младежите.
Бандите извършват измами с изнудване, като убеждават хората да предоставят свои интимни снимки и след това заплашват да ги публикуват, ако не получат пари. Meta заяви, че тества управляван от изкуствен интелект инструмент за "защита от голота", който ще открива и размазва изображения, съдържащи голота, изпратени на непълнолетни лица в системата за съобщения на приложението.
"По този начин получателят не е изложен на нежелано интимно съдържание и има възможност да избере дали да види изображението или не", заяви пред АФП Капусин Тюфие, която отговаря за защитата на децата в Meta France. Американската компания заяви, че също така ще предложи съвети и препоръки за безопасност на всички, които изпращат или получават такива съобщения.
Около 3000 младежи са станали жертва на измами със сексуална експлоатация през 2022 г. в САЩ, според тамошните власти. Отделно от това повече от 40 американски щата започнаха да съдят Мета през октомври по дело, което обвинява компанията, че е "спечелила от болката на децата". В съдебното заявление се твърди, че Meta е експлоатирала млади потребители, като е създала бизнес модел, предназначен да увеличи максимално времето, което те прекарват в платформата, въпреки вредата за здравето им.
През януари Meta обяви, че ще въведе мерки за защита на лица под 18 години, които включват по-строги ограничения на съдържанието и засилване на инструментите за родителски контрол. Фирмата заяви, че най-новите инструменти се основават на "дългогодишната ни работа за подпомагане на защитата на младите хора от нежелани или потенциално вредни контакти".
"Тестваме нови функции, за да помогнем за защитата на младите хора от секстормоз и злоупотреба с интимни изображения, както и за да затрудним потенциалните измамници и престъпници да намират и взаимодействат с тийнейджъри", заяви компанията. Тя добави, че инструментът за "защита от голота" използва "машинно обучение на устройството", вид изкуствен интелект, за да анализира изображенията.
Фирмата, която също така постоянно е обвинявана, че нарушава неприкосновеността на личните данни на своите потребители, подчерта, че няма да има достъп до изображенията, освен ако потребителите не го заявят. Meta съобщи, че ще използва инструменти на изкуствения интелект, за да идентифицира акаунтите, изпращащи материали с обидно съдържание, и ще ограничи сериозно възможността им да взаимодействат с млади потребители в платформата.
През 2021 г. Франсис Хауген, бивш инженер на Facebook, оповести проучване, проведено вътрешно от Meta - тогава известна като Facebook - което показа, че компанията отдавна е осъзнавала опасностите, които нейните платформи представляват за психичното здраве на младите хора.
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
