Врачи университета Вашингтона сообщили о шокирующем случае, который демонстрирует потенциальные опасности использования искусственного интеллекта в области здравоохранения без должной проверки и профессиональной консультации. Мужчина решил снизить потребление поваренной соли, что является популярной диетической рекомендацией для контроля кровяного давления и общего здоровья. В поисках простого решения он обратился к ChatGPT — одному из ведущих современных средств автоматизированных консультаций, которое порекомендовало заменить хлорид натрия на бромид. Следуя совету, мужчина начал принимать бромистый натрий, приобретая его через интернет без консультации врача.
За три месяца такого лечения состояние пациента резко ухудшилось: у него развились стойкие галлюцинации, паранойя, имелись признаки психоза. Позже его госпитализировали в одну из клиник Вашингтонского университета, где медикам пришлось применять внутривенные вливания и антипсихотические препараты для стабилизации состояния. В ходе диагностики врачи заподозрили бромизм — токсичное отравление бромидом, который ранее широко использовался в медицине для лечения различных состояний, но был официально исключён из практики из-за своей токсичности и риска развития серьезных осложнений.
После интенсивного лечения и поддержки мужчина стабилизировался, и уже через три недели его выписали из больницы. Этот случай стал первым в истории, когда диагноз бромизма был поставлен вследствие получения рекомендаций от искаженному алгоритма ИИ. Особенно тревожно то, что совет по использованию бромида дал именно ChatGPT — программа, которая должна предоставлять информационные услуги, но при этом не может полностью заменить консультацию квалифицированного специалиста.
Этот инцидент высвечивает важную проблему: искусственный интеллект, несмотря на свою эффективность и возможности, иногда распространяет некорректную или опасную информацию. Особенно критично это в сфере здравоохранения, где неправильные рекомендации могут иметь тяжелые последствия для здоровья человека. Врачи и исследователи подчеркивают, что AI-системы должны использоваться с крайней осторожностью, и никакие советы не могут заменить профессиональную консультацию врача. В данном случае, даже рекомендации по бытовым вопросам, например, замене соли, требуют правильного понимания и оценки специалистом.
Многообразие случаев, таких как этот, показывает необходимость активного мониторинга и постоянного совершенствования систем искусственного интеллекта, включая разработку механизмов проверки и подтверждения информации перед её распространением. Также важно просвещать пользователей о пределах возможностей ИИ и необходимости обращения за профессиональной медицинской помощью при возникновении любых симптомов или проблем со здоровьем.
Этот случай стал серьезным напоминанием — в эпоху стремительного технологического прогресса люди должны сохранять критическое мышление и помнить, что рекомендации искусственного интеллекта — это лишь один из источников информации, который требует проверки и, по возможности, консультации специалиста. В противном случае риск ошибочного самолечения и травм может стать весьма реальным. В целом, внедрение новых технологий должно сопровождаться строгими стандартами безопасности, этическими аспектами и вниманием к возможным последствиям, чтобы избежать подобных трагических ситуаций в будущем.