Система искусственного интеллекта, использованная для документирования медицинского приема в Австралии, внесла ложную информацию в медицинскую карту пациентки о том, что она употребляла психоделические грибы - ошибка, которая была обнаружена только после того, как эта информация уже появилась в медицинском письме, отправленном ее семейному врачу.
Ребекка Грин пришла на свой первый прием к урологу, и ее попросили согласиться на запись разговора системой искусственного интеллекта. Она согласилась без колебаний, отчасти потому, что не хотела, чтобы ее воспринимали как пациентку, которая создает проблемы врачу или отнимает у него время.
Но после операции по удалению камней в почках в марте Грин прочитала письмо, которое врач отправил ее семейному врачу, и обнаружила деталь, о которой никогда не рассказывала: в документе говорилось, что она принимала микродозы психоделических грибов, и даже высказывалась вероятность того, что это связано с предыдущим почечным кровотечением.
Грин уточнила, что никогда не употребляла психоделические грибы. «Я была в шоке и плакала», - сказала она австралийскому телеканалу ABC.
Для нее эта ошибка имела значение, выходящее за рамки медицинской карты. В то время Грин получала компенсацию за травму на работе, и она опасалась, что упоминание об употреблении наркотиков в ее медицинской карте может повлиять на ее дело.
После ее жалобы уролог принес извинения и выдал пересмотренный медицинский документ. Она сказала, что невозможно с уверенностью определить, как упоминание о психоделических грибах попало в документ, но, по всей видимости, это произошло из-за ошибки в процессе диктовки или транскрипции. Врач также объявила, что пересмотрит использование искусственного интеллекта в клинике.
Этот случай дополняет растущую обеспокоенность в Австралии по поводу использования систем ИИ, которые записывают разговоры между врачами и пациентами. Исследование, проведенное организацией Digital Rights Watch, выявило случаи, когда такие системы генерировали неверную медицинскую информацию, даже если она фактически не была произнесена.
В качестве примеров можно привести случай, когда система зафиксировала неправильную сторону тела при диагностике рака молочной железы, и другой случай, когда пациент был зарегистрирован как страдающий эпилепсией, хотя он не страдал этим заболеванием.
Австралийский регулятор в сфере здравоохранения, AHPRA, подчеркнул, что ответственность остается за профессионалами, и что они должны проверять продукты, созданные системами документирования на основе ИИ, и обеспечивать их точность.
Грин сказала, что ее особенно беспокоят пациенты, которые сами не замечают подобных ошибок. Она сказала, что проверка документа человеком перед отправкой могла бы предотвратить внесение неверной информации в медицинскую карту.