Использование искусственного интеллекта для распознавания врачебных назначений может нести серьезные риски для здоровья из-за склонности алгоритмов к галлюцинациям. Аналитик Зыков представил результаты эксперимента, в ходе которого три востребованные нейросети — ChatGPT, Gemini и Grok — пытались интерпретировать девять подлинных российских рецептов, написанных от руки.
Как показало исследование, хотя названия медикаментов ИИ определял почти всегда точно, при работе с количественными данными и режимом приема начинались критические сбои. В одном из случаев нейросеть неверно считала объем лекарства: вместо положенных 2,16 тыс. таблеток алгоритм выдал либо 216, либо всего 60 единиц. Еще более опасной оказалась ошибка в кратности приема, когда ИИ заменил предписанные врачом две таблетки перед сном на схему «одна таблетка три раза в день», тем самым полностью исказив протокол лечения.
Зыков подчеркнул, что основной подвох заключается в обманчивой убедительности ответов. Нейросети не просто фиксируют символы, а пытаются восстановить смысл через контекст. Если почерк становится неразборчивым, ИИ начинает самостоятельно додумывать недостающие фрагменты, подставляя вероятные названия или слова. В процессе работы алгоритмы также регулярно игнорировали важные примечания, искажали фамилии медиков и не всегда сигнализировали о своих сомнениях в точности распознавания.
Ранее в контексте развития технологий киберэксперт Игорь Бедеров высказывался о необходимости обучения детей принципам функционирования нейросетей и связанных с ними рисках в рамках школьной программы.
