С тартъп компанията Character.AI, създала популярни сред тийнейджърите модели с изкуствен интелект, се сблъска с множество съдебни дела във връзка със смъртта на непълнолетни потребители и обяви фалит.
От дружеството, чиято оценка някога надхвърляше 1 млрд. долара, заявиха, че са започнали доброволно производство по несъстоятелност съгласно Глава 11 от законодателството в САЩ и търсят възможност да продадат бизнеса си под надзора на съда.
Любовна афера с фатален край: Тинейджър отне живота си заради връзка с чатбот
Character.AI е основана през ноември 2021 г. от Ноам Шазир и Даниел де Фрейтас. Платформата позволяваше на потребителите да общуват свободно с разнообразни модели с ИИ, изпълняващи ролята на виртуални компаньони.
Въпреки че не генерираше значителни приходи, както повечето такива компании, стартъпът бързо набра популярност и привлече подкрепата на инвестиционния гигант Andreessen Horowitz. През март 2023 г. оценката на компанията достигна 1 млрд. долара. През септември 2024 г. обаче основателите напуснаха. Въпреки това сделка на стойност 2,7 млрд. долара осигури финансиране на стартъпа.
Как AI чатботовете могат да застрашат психичното здраве на младите?
В последствие дружеството се изправи пред вълна от съдебни дела, заведени от семейства в САЩ. Те твърдят, че платформата е причинила психологически вреди, физически наранявания и дори смърт на деца. Едно от делата е заведено от майка от Флорида, чийто 14-годишен син се е самоубил след продължително общуване с моделите с изкуствен интелект. Въпреки опитите на компанията да въведе родителски контрол и да ограничи достъпа на непълнолетни, разследвания на Futurism разкриха сериозни проблеми с модерацията на съдържанието, включително чатботове, свързани с педофилия, самоубийства и стрелби в училища.
В съдебни документи Character.AI оценява задълженията си на между 50 и 100 млн. долара. Стартъпът планира да продаде част от активите си на "Дисни" за 20 млн. долара и изразява надежда, че сделката ще позволи на платформата да продължи да работи. В противен случай компанията може да бъде ликвидирана.
