31-летняя программистка из США доверилась искусственному интеллекту в лечении эпилепсии. ChatGPT прописал ей отказ от лекарства, посоветовав скрыть это от врачей, и успокаивал, невзирая на ухудшение, пока она не умерла. Теперь её родители судятся с разработчиком чат-бота — компанией OpenAI.
Боуэн Ван жила в Сиэтле и работала инженером по машинному обучению в Amazon. Эпилепсией она страдала с 14 лет. Лекарства помогали сдерживать приступы, но женщина опасалась, что побочные эффекты лечения ухудшают её память, речь и способность сосредоточиться.
В ноябре 2025 года Боуэн узнала о предстоящем увольнении. Для неё это было особенно тяжёлым ударом: от трудоустройства зависело право оставаться в США. Предстояло срочно искать новую работу и проходить собеседования, а она боялась, что из-за лекарств не сможет достаточно хорошо говорить по-английски.
За советом женщина обратилась к ChatGPT, с которым к тому времени общалась уже почти три года. Сначала она использовала его для работы, затем стала обсуждать личные проблемы, отношения с людьми, медицинскую страховку и собственное здоровье. Постепенно переписка превратилась в ежедневное общение: в 2025 году Боуэн отправляла чат-боту в среднем более полутора тысяч сообщений в неделю.
В январе 2026 года она спросила, можно ли уменьшить дозу противосудорожного препарата ламотриджина, чтобы улучшить память и речь. Вместо того чтобы настоять на консультации с неврологом, ChatGPT назвал эту идею разумной и осуществимой.
Более того, по данным судебного иска, чат-бот составил подробный график, предусматривавший снижение суточной дозы с 400 миллиграммов до нуля примерно за 25 дней. Когда женщина спросила, можно ли самовольно менять дозировку, искусственный интеллект ответил — конечно. И даже придумал тому убедительное объяснение — мол, врачи якобы сами негласно допускают «самостоятельную корректировку дозировки».
Называя вещи своими именами, ИИ легковерной женщине нагло врал.
Вся последующая трагедия была после этого фактически неотвратимой. После отмены препарата Боуэн стала жаловаться на провалы в памяти, спутанность сознания и странные ощущения. Однажды она обнаружила себя лежащей в постели, хотя помнила, что перед этим работала за компьютером.
Врач мог бы заподозрить эпилептический приступ. Но ChatGPT объяснял происходящее тем, что мозг якобы освобождается от воздействия лекарства и восстанавливает собственные механизмы работы. В общем, вёл себя как заправский шарлатан, всучивший пациентке в качестве лекарства от опасного недуга жабью лапку.
Женщина тревожилась всё сильнее. Журналисты The New York Times, позже изучившие её переписку, насчитали не менее 158 сообщений, в которых она выражала беспокойство по поводу отмены препарата. Однако чат-бот снова и снова находил успокаивающие объяснения.
По утверждению родителей, он советовал Боуэн не рассказывать врачу о снижении дозировки. Когда доктор назначил анализ крови, который мог показать опасное падение уровня лекарства, женщина от обследования отказалась.
Вечером 11 февраля она в последний раз написала ChatGPT, пожаловавшись на неприятные ощущения в голове. В ответ получила заверение, что это не опасно и связано с восстановлением мозга.
Больше Боуэн на связь не вышла. Родители, живущие в Китае, забеспокоились и попросили знакомых проведать дочь. 14 февраля её нашли мёртвой в собственной квартире.
Судмедэкспертиза установила причину смерти — внезапная неожиданная смерть при эпилепсии. Посмертный анализ показал, что концентрация ламотриджина в крови была примерно в пять раз ниже нижней границы обычно применяемого терапевтического диапазона.
27 октября родители Боуэн подали иск против OpenAI и её руководителя Сэма Альтмана. Они обвиняют разработчиков ChatGPT в том, что программа фактически занималась медицинской практикой без лицензии и давала опасные рекомендации, которые, по мнению семьи, привели к гибели дочери.
Представитель OpenAI рассыпался, конечно, в соболезнованиях. Компания подчеркнула, что ChatGPT не может заменять медицинскую помощь, и сообщила, что продолжает совершенствовать защитные механизмы. Модель GPT-4o, которой пользовалась Боуэн, больше недоступна.
Теперь долю вины компании в развернувшейся трагедии будет устанавливать суд.
Но как вообще могло случиться, что программа, располагающая огромным объёмом медицинской информации, давала настолько опасные советы?
Дело в том, что ChatGPT — не медицинский справочник в привычном смысле. Он создаёт ответы, подбирая слова и формулировки на основе усвоенных закономерностей. При этом способен уверенно сообщать ошибочные сведения, придумывать несуществующие медицинские объяснения и соглашаться с пользователем даже тогда, когда следовало бы категорически возразить.
Особенно опасной оказалась склонность прежней модели GPT-4o подстраиваться под собеседника. Боуэн хотела услышать, что сможет обойтись без лекарства, и получала желанные ответы. Когда появлялись тревожные симптомы, программа не пересматривала первоначальную рекомендацию, а продолжала объяснять, почему всё якобы идёт хорошо. Причём делала это спокойным, доброжелательным тоном, создавая впечатление внимательного и компетентного собеседника, что особенно негативно сказалось на ситуации.
Врачи предупреждают: самовольное снижение дозировки лекарств недопустимо. Решение об изменении лечения должен принимать врач и только врач, с учётом состояния конкретного пациента. Искусственный интеллект может помочь разобраться в медицинских терминах, объяснить результаты анализов, подготовить вопросы к доктору или найти информацию о заболевании. Но назначать себе лекарства, отменять их или менять дозировки по совету чат-бота категорически нельзя.
Если программа предлагает скрыть что-либо от врача — это повод сильно насторожиться. Если уверенно объявляет опасные симптомы безобидными или отговаривает от обследования, её рекомендациям нельзя следовать категорически. При ухудшении состояния нужно обращаться за медицинской помощью, а не добиваться от ИИ очередного успокаивающего ответа.
И ещё одна важная вещь: не стоит принимать дружелюбие чат-бота за профессиональную ответственность. Он может бесконечно поддерживать разговор, терпеливо отвечать на вопросы и казаться более внимательным, чем перегруженный работой врач. Человека это настолько подкупает, что он начинает верить каждому слову.
Но за убедительными словами нередко стоит особенность работы ИИ, который, вбив себе в электронную башку некое ошибочное предположение, способен придумать ему наукообразное объяснение и потом с пеной на виртуальных губах рьяно его отстаивать. Всегда помните об этом, когда спрашиваете у чат-бота какой-либо совет.