60-річний житель Сіетла вирішив відмовитися від кухонної солі заради здоров’я й звернувся за порадою до ChatGPT. Через три місяці він опинився в лікарні з галюцинаціями, параноєю та спробою втекти з палати. Цю історію описали в медичному журналі Annals of Internal Medicine: Clinical Cases.
Чоловік без попередньої психіатричної історії прибув до відділення невідкладної допомоги з переконанням, що сусід намагається його отруїти. Він був дуже спраглим, але боявся пити воду, яку йому пропонували. Лікарі запідозрили незвичайне отруєння — і мали рацію.
Як ChatGPT підказав небезпечну заміну
Коли стан пацієнта трохи покращився, він розповів лікарям, що вирішив провести «особистий експеримент»: прочитав про негативний вплив кухонної солі (натрію хлориду) і захотів повністю виключити хлорид зі свого раціону. Для цього він звернувся до ChatGPT. Чат-бот запропонував замінити натрію хлорид на натрію бромід — хімічну сполуку, яку колись використовували як заспокійливе, а тепер застосовують переважно у ветеринарії та промисловості. Чоловік придбав бромід онлайн і вживав його три місяці.
Автори дослідження не мали доступу до історії його діалогу з ChatGPT, тому не можуть точно сказати, яку саме відповідь він отримав. Однак коли вони самі запитали ChatGPT-3.5, чим можна замінити хлорид, бот знову назвав бромід — і не попередив про небезпеку 1.
Симптоми, які збили з пантелику лікарів
Перші аналізи крові пацієнта показали підвищений рівень хлоридів — це навело на думку про зневоднення або надмірне споживання солі. Але подальші тести виявили аномалію: загальний негативний заряд крові був надто високим, що не відповідало простому дисбалансу електролітів. Лікарі звернулися до токсикологічного центру і з’ясували: це псевдогіперхлоремія — стан, коли лабораторний тест помилково приймає інший негативно заряджений іон за хлорид.
10 випадків, коли ефект плацебо спантеличив сучасну науку
Найчастіше таку картину дає передозування аспірину, але рівень саліцилатів у пацієнта був нормальним. Тоді запідозрили бромід — іон брому, який за хімічними властивостями дуже схожий на хлорид. Вимірювання підтвердило: рівень броміду в крові чоловіка перевищував норму в 230 разів 2)).
Протягом першої доби після госпіталізації параноя посилилася, з’явилися слухові та зорові галюцинації. Пацієнт спробував втекти з лікарні, тому його примусово залишили на психіатричному лікуванні.
Що таке бромізм і чому він небезпечний
Отруєння бромідом, або бромізм, було добре відоме на початку XX століття. Тоді бромідні солі входили до складу багатьох безрецептурних заспокійливих і снодійних засобів. За оцінками, бромізм спричиняв до 8% госпіталізацій у психіатричні лікарні того часу. Після того як у 1970-80-х роках FDA вилучило броміди з обігу, випадки отруєння стали рідкістю. Однак сьогодні бромід можна легко придбати через інтернет — і це відкриває двері для нових випадків.
Бромід діє оманливо: через схожість із хлоридом він може проникати в ті самі канали в нервових клітинах, порушуючи нормальну електричну активність мозку. Саме це призводить до психічних симптомів — галюцинацій, параної, делірію.
Урок для всіх
Чоловік провів у лікарні три тижні. Лікарі контролювали його електроліти та давали антипсихотик рисперидон. Поступово рівень броміду нормалізувався, а психотичні симптоми зникли. Його виписали, і через два тижні стан залишався стабільним без ліків.
Автори випадку наголошують: ця історія показує, наскільки небезпечним може бути використання штучного інтелекту для медичних порад. ChatGPT не є лікарем — він не ставить уточнювальних запитань, не оцінює контекст і не попереджає про ризики. У відповідь на запит про заміну хлориду бот видав бромід без жодного застереження, хоча жоден медичний фахівець ніколи б не запропонував такої заміни.
ШІ чат-боти все гірше узагальнюють наукові дані
OpenAI, розробник ChatGPT, зазначає у своїх умовах використання, що бот не призначений для діагностики чи лікування, і закликає звертатися до професіоналів. Але, як показує цей випадок, покладатися на це застереження може бути запізно.
Найцікавіше за тиждень
Один лист на тиждень. Без спаму.
Нові статті, добірки та корисні матеріали DAY TODAY — в одному короткому листі.
Шкода, що стаття вам не сподобалась...
Штучний інтелект надає «проблемні» медичні поради у 50%
Дозвольте нам її покращити!
