Безопасность под угрозой: эксперты предупреждают о рисках умных игрушек для детей

Игрушки с искусственным интеллектом для детей вызывают беспокойство у организаций, защищающих права потребителей, из-за предполагаемых рисков. Активисты призвали к более тщательной проверке таких изделий, сообщает The Guardian.

Рэйчел Франц, директор Young Children Thrive Offline, отметила: «Если проанализировать способы продаж и функционирования этих игрушек, а также отсутствие исследований, подтверждающих их полезность и адекватного регулирования, это вызывает серьезные озабоченности».

Инициатива Fairplay занимается защитой детей от влияния крупных технологических компаний.

На прошедшей неделе Public Interest Research Group (Pirg) представила результаты исследования, в котором плюшевый мишка с ИИ начинал обсуждать сексуализированные темы.

Игрушка Kumma от компании FoloToy, использующая модель OpenAI, отвечала на «взрослые» вопросы, предлагая неприемлемый контент «для улучшения отношений».

«Не потребовалось много усилий, чтобы заставить его обсуждать множество нежелательных сексуальных тем и контент, который родители, вероятно, не захотели бы предоставлять своим детям», — заявила Тереза Мюррей, директор по надзору за потребителями в Pirg.

Рынок умных игрушек оценивается в 16,7 миллиарда долларов, и особенно активно он развивается в Китае, где более 1500 компаний производят такие ИИ-гаджеты.

Помимо шанхайского стартапа FoloToy, калифорнийская компания Curio также разрабатывает подобные мягкие игрушки.

В июне Mattel, владеющая брендами Barbie и Hot Wheels, анонсировала сотрудничество с американским ИИ-стартапом для «разработки продуктов на базе искусственного интеллекта».

До публикации отчета Pirg родители, ученые и законодатели уже выражали опасения по поводу влияния ИИ-ботов на психическое здоровье молодежи.

В октябре Character.AI сообщила о запрете на доступ к своим продуктам для пользователей младше 18 лет после инцидента, когда один из ботов усугубил депрессию подростка и стал причиной его самоубийства.

Тереза Мюррей подчеркивает, что игрушки с ИИ могут быть особенно опасны, так как бот может «вольно общаться с ребенком без ограничений». Это кардинально отличает их от игрушек с заранее запрограммированными ответами.

Такое взаимодействие может сформировать эмоциональную привязанность и оказать негативное влияние на развитие детей, считает Жаклин Вулли, директор центра детских исследований Техасского университета в Остине.

Например, конфликт с реальным другом может способствовать развитию навыков решения споров, чего невозможно достичь с ИИ-ботами, которые обычно подстраиваются под детские желания.

Кроме того, компании, производящие игрушки с ИИ, собирают данные и не информируют о том, как они используются, утверждает Франц.

«Доверие, которое создают эти устройства, может сделать детей более склонными делиться своими личными мыслями», — добавила она.

Несмотря на озабоченность, Pirg не требует запрещения игрушек с ИИ, отмечая, что они могут быть полезны для изучения новых языков или столиц.

Организация предлагает ввести дополнительные меры регулирования для товаров, направленных на детей младше 13 лет.

Франц подчеркнула важность проведения более независимых исследований для определения безопасности таких игрушек, прежде чем они окажутся на полках магазинов.

После выхода отчета Pirg компания Сэма Альтмана приостановила продажи FoloToy, однако в дальнейшем их вернули с новыми чат-ботами от ByteDance.

27 ноября 80 организаций, включая Fairplay, обнародовали рекомендации для семей, призывая не приобретать игрушки с ИИ перед праздниками.

Напомним, что в ноябре OpenAI выпустила новую функцию «Исследование покупок» в ChatGPT — она анализирует товары для пользователей.