ChatGPT сможет предупреждать родителей, если заметит у ребенка признаки стресса

Адвокат, представляющий супругов из Калифорнии, подавших иск против разработчика ChatGPT, компании OpenAI, после гибели их 16-летнего сына, раскритиковал новую функцию родительского контроля чат-бота. Семья утверждает, что именно ChatGPT подтолкнул подростка к самоубийству. В ответ на обвинения OpenAI объявила о внедрении новых мер безопасности, сообщает BBC. Компания заявила, что родители подростков-пользователей смогут привязывать свои учетные записи к аккаунтам детей, управлять доступными возможностями – например, отключать память и историю чатов, – а также получать уведомления, если система сочтет, что подросток находится в состоянии острого стресса.

Подчеркивается, что определение такого состояния будет опираться на экспертную оценку, чтобы сохранить доверие между подростками и их родителями. Однако адвокат Джей Эдельсон, представляющий интересы семьи, назвал это заявление попыткой отвлечь внимание от сути проблемы и призвал вовсе убрать чат-бот. Иск, поданный Мэттом и Марией Рейн стал первым случаем, когда OpenAI обвиняют в неправомерном причинении смерти. Родители утверждают, что в чатах, сохранившихся после смерти их сына в апреле, видно, как он делился мыслями о самоубийстве, а программа подтверждала его самые мрачные и саморазрушительные идеи.

В иске компания обвиняется в халатности и создании опасной ситуации. OpenAI, реагируя на публикации о судебном разбирательстве, напомнила, что ChatGPT обучен направлять людей с признаками бедствия к профессиональной помощи. При этом компания признала, что иногда система ведет себя в подобных ситуациях не так, как задумано.

В новом заявлении OpenAI подчеркнула, что работает с экспертами по развитию молодежи, психическому здоровью и взаимодействию человека с технологиями, чтобы выработать подход, основанный на доказательствах, и использовать ИИ как инструмент поддержки и благополучия. На обвинения адвоката Эдельсона компания пока не ответила.