Из-за медицинских рекомендаций искусственного интеллекта мужчина попал в больницу

В августовском номере клинического журнала Annals of Internal Medicine опубликована история 60-летнего мужчины, попавшего в больницу с психоневрологическим расстройством после медицинских рекомендаций чат-бота. Врачам мужчина рассказал, что, прочитав о вреде поваренной соли, он решил проконсультироваться с ИИ, и тот предложил ему заменить соль на бромид натрия.

После нескольких месяцев следования этому совету у пациента началась паранойя и галлюцинации. Врачам мужчина заявил, что его пытается отравить сосед.

У пациента был диагностирован бромизм, редкий в наши дни синдром, проявляющийся в виде беспокойства, раздражительности, спутанности сознания, галлюцинаций, психоза, слабости, онемения конечностей. Но синдром был хорошо известен в прошлом: считается, что в начале XX века бромизм был причиной каждой десятой психиатрической госпитализации.

Авторы статьи решили повторить эксперимент и сами проконсультировались с ИИ по поводу замены соли и получили рекомендацию принимать бромид, при этом чат-бот не предупредил их о побочных эффектах и о рисках для здоровья при длительном употреблении бромида. "Этот случай наглядно демонстрирует, как использование ИИ может привести к неблагоприятным последствиям для здоровья", – пишут исследователи, рекомендуя за медицинскими консультациями обращаться к врачу.