Character.AI говорит «нет» лицам младше 18 лет и позволяет людям создавать виртуальных друзей

С 25 ноября Character.AI заблокирует доступ пользователям младше 18 лет . Такое заявление сделал калифорнийский стартап, специализирующийся на создании виртуальных компаньонов на базе искусственного интеллекта. Он стал очень популярен среди молодежи и в США стал причиной самоубийства 14-летнего подростка.

«Мы вносим эти изменения в свете меняющегося ландшафта взаимодействия ИИ и подростков», — написала компания. «Последние новости вызвали вопросы, и мы получили запросы от регулирующих органов, о контенте, с которым сталкиваются подростки при общении с ИИ, и о том, как это может на них повлиять, даже если средства контроля работают идеально».

Character.AI был запущен в мае 2023 года и быстро завоевал популярность среди подростков, в том числе в Италии. Он позволяет пользователям использовать ИИ для создания персональных виртуальных друзей или копирования личности знаменитостей. Сервис неоднократно вызывал негативную реакцию ряда экспертов, обеспокоенных порой иррациональной привязанностью молодых людей к чат-боту и характером взаимодействия с ним. Год назад в США мать 14-летнего подростка, покончившего с собой, подала на компанию в суд, обвинив её в развитии эмоциональной зависимости мальчика от чат-бота.

Аналогичные случаи были зарегистрированы и на других платформах, например, на ChatGpt, которая недавно ввела ограничения для юных пользователей и работает над системой проверки возраста. Несколько дней назад OpenAI, материнская компания ChatGpt, опубликовала внутренние данные, показывающие, что более миллиона еженедельных сообщений на платформе содержат явные упоминания суицидальных мыслей, депрессии или острых психических расстройств.