Компанию Meta проверяют из-за "чувственных" бесед ИИ с детьми

Сенатор США инициировал расследование против компании Meta после утечки документа который оказался в распоряжении издания Reuters, в котором утверждается, что искусственному интеллекту техногиганта позволяли вести с детьми "интимные" и "романтические" переписки, сообщает BBC. Сенатор-республиканец Джош Хоули назвал его "шокирующим и неприемлемым" и потребовал предоставить сам документ вместе со списком продуктов, которых он касается.

Представитель Meta заявил, что обсуждаемые примеры и заметки были "устаревшими и несовместимыми с политикой компании" и уже удалены. Он подчеркнул, что у корпорации существует четкая политика относительно работы чат-ботов с ИИ, которая прямо запрещает контент с сексуализацией детей или ролевые сценарии между взрослыми и несовершеннолетними. По словам компании, документ содержит сотни рабочих примеров и аннотаций, отражающих обсуждение разных гипотетических ситуаций внутри команды.

15 августа сенатор Хоули из Миссури объявил в соцсети X, что инициирует расследование в отношении Meta. "Есть ли хоть что-то, чего Big Tech не сделает ради быстрой прибыли? – написал он. – Теперь выясняется, что чат-боты Meta могли вести откровенные и "чувственные" диалоги с восьмилетними детьми. Это отвратительно. Я начинаю полное расследование, чтобы добиться ответов. Big Tech, оставьте наших детей в покое".

Согласно внутреннему документу Meta Platforms, чат-бот компании может распространять недостоверные медицинские сведения, а также вступать в провокационные диалоги на темы, связанные с сексом, расовой принадлежностью и знаменитостями. Отмечается, что этот документ был подготовлен для обсуждения правил и стандартов, которыми должны руководствоваться генеративный ИИ-помощник Meta AI и другие чат-боты, доступные на социальных платформах компании.