ИИ и здоровье. Где проходит граница безопасности
2 дня назад
Доцент РЭУ им. Г. В. Плеханова Марина Холод выступила с предостережением: обращаться за медицинскими советами к чат‑ботам небезопасно.
История болезни искусственным интеллектом не учитывается, анализы им не исследуются, а ответственность за рекомендации он не несёт. Решения о терапии полномочен принимать исключительно врач.
Наглядный случай рисков трагедия, произошедшая в США. Женщина, страдавшая эпилепсией, следуя совету ChatGPT, шаг за шагом прекратила приём противосудорожного средства, и это закончилось смертельным исходом.
Разработчику чат‑бота был предъявлен иск родителями погибшей. Как акцентирует эксперт, при предложении ИИ изменить схему лекарственного приёма либо утаить что‑либо от доктора беседу следует тотчас оборвать и пойти к специалисту.
Наибольшую опасность несут правки дозировок инсулина, антикоагулянтов, кардиологических, психотропных и противосудорожных препаратов.
Вместе с тем в медицинской сфере искусственный интеллект отнюдь не бесполезен: термины он способен растолковать, помочь разобраться в инструкции, составить перечень вопросов для врача. Важно лишь не позволять ему подменять собой профессиональную медицинскую помощь.
Искусственный интеллект нужно во всех сферах проверять и перепроверять. И вообще я поняла из своего опыта работы с ним, что он годиться только для профессионалов своего дела, которые используют его лишь для создания скелета будущего своего творения. Его нужно править и дорабатывать. Зачастую на работу ним тратишь больше времени, чем если бы написала например текст самостоятельно.
Пациентов предупреждают об опасности следования медицинским советам от ИИ, а кто будет контролировать медиков на предмет поиска в интернете описания симптомов для выставления диагноза? Подробные ситуации сейчас не единичны.
Главная проблема искусственного интеллекта в том, что он нас совершенно не знает, не видит наших анализов, не учитывает историю болезней и, в отличие от живого врача, не несёт никакой юридической или человеческой ответственности за свои советы.
Нейросети могут красиво, убедительно и профессионально врать (это называется «галлюцинациями»), но если в школьном реферате это просто ошибка, то в медицине — вопрос жизни и смерти.
Особенно это касается критически важных препаратов, таких как инсулин, сердечные, психотропные, противосудорожные средства или лекарства для разжижения крови, где малейшее изменение дозировки или резкая отмена могут мгновенно убить человека.
Именно это и произошло в США, когда женщина по совету ChatGPT шаг за шагом перестала пить таблетки от эпилепсии, у неё случился сильнейший приступ, и она погибла.
Так что, это хороший справочник, не более того.
Алексей, доверять полностью ИИ в плане здоровья — это, как минимум, не логично, а то и опасно. Искусственный интеллект не знает историю болезни, причины ее появления и особенности организма человека.
Я еще могу понять, когда нужно прочитать аннотацию к лекарству и узнать, для чего оно предназначено, но не более того. Принимать то или иное снадобье необходимо только по назначению врача!
