Этот случай стал предупреждением для нашего времени. Врачи рассказали, как у мужчины развился психоз, вызванный отравлением, после того, как он последовал рекомендациям по диете от ИИ.

Доктора из Университета Вашингтона документировали реальный случай в журнале Annals of Internal Medicine: Clinical Cases. Мужчина якобы отравился бромидом, который он употреблял в течение трёх месяцев по совету ChatGPT. К счастью, его состояние улучшилось после лечения, и он успешно восстановился.

Соединения бромидов когда-то использовались в начале XX века для лечения различных заболеваний, от бессонницы до тревожности. Однако со временем люди выяснили, что бромид может быть токсичным при высоких дозах или при постоянном применении и могут также вызывать нейропсихиатрические расстройства. В 1980-х годах бромиды были удалены из большинства лекарств, и случаи отравления бромидом (бромизм) стали редкостью.

Тем не менее, бромиды остаются в некоторых ветеринарных препаратах и других потребительских продуктах, включая пищевые добавки, и редкие случаи бромизма случаются до сих пор. Однако этот случай может быть первым зафиксированным отравлением бромидом, вызванным ИИ.

Как сообщается, мужчина пришёл в местное отделение неотложной помощи и рассказал врачам, что, возможно, его отравил сосед. Хотя его физическое состояние было в норме, мужчина становился возбуждённым и параноидальным, отказываясь пить воду, несмотря на жажду. Он также переживал зрительные и слуховые галлюцинации и вскоре у него развился психоз В разгаре психоза он попытался сбежать, после чего врачи поместили его на «вынужденное психиатрическое удержание по причине тяжёлой нетрудоспособности».

Врачи ввели ему внутривенные жидкости и антипсихотические препараты, и его состояние начало стабилизироваться. С самого начала они подозревали, что причиной болезни мог быть бромизм, и когда мужчина стал достаточно вменяем, чтобы объяснить, как бромид попал в его организм, стало ясно, что он начал принимать натриевый бромид три месяца назад. Он изучал вред избыточного потребления поваренной соли и решил заменить хлорид на бромид, следуя советам ChatGPT. ИИ предложил, что хлорид можно безопасно заменить на бромид.

Врачи не уточнили, какую версию ChatGPT использовал мужчина, но, судя по времени, это был, вероятно, ChatGPT 3.5 или 4.0. Они не имели доступа к его чатам, но, когда они попросили ChatGPT 3.5, что можно заменить хлоридом, ответ включал бромид. Врачи подозревают, что ИИ мог ссылаться на примеры использования бромида в других областях, таких как очистка, а не в контексте диеты.

Мужчина постепенно восстановился. Его выписали через три недели, и во время следующего визита через две недели его состояние оставалось стабильным.

Доктора отметили, что хотя инструменты типа ChatGPT могут служить мостом между учеными и широкой аудиторией, ИИ также несет риск распространения информации, вырванной из контекста. «Наверное, ни один человеческий медицинский эксперт не порекомендовал бы заменять хлорид на бромид тому, кто беспокоится о потреблении поваренной соли», — добавили они.