Команда исследователей из Кембриджского университета и Университета Саймона Фрейзера протестировала алгоритмы, основанные на ИИ и глубоком обучении по отношению к медицине. Обнаружено, что данные методы крайне нестабильны, выдают большое количество артефактов и ложных изменений в данных. В методах, не основанных на ИИ, такое количество ошибок как правило отсутствовало.
В материалах, опубликованных Национальной академией наук, исследователи предупреждают, что использование методов ИИ для постановки диагноза и назначения лечения может в конечном итоге нанести вред пациентам.
Ученые не отрицают, что искусственный интеллект вполне может иметь потенциал для революционных прорывов в современной медицине, то нельзя игнорировать потенциальные риски.
Обычная МРТ занимает от 15 минут до 2 часов, при этом качество изображения напрямую зависит от времени, проведенного в аппарате. А использование методов ИИ — привлекательная возможность решить задачу гораздо быстрее и получить изображение лучшего качества.
Проблема в том, что некоторые изображения для ИИ сложны в определении. В медицинской визуализации бывали случаи, что он добавлял на картинку ложные опухоли или, напротив, не отображал существующие. Это недопустимо, когда речь идет о критических решениях по отношению к человеческому здоровью.В настоящее время исследователи сосредоточены на том, чтобы составить определенные списки того, что можно и что нельзя делать с помощью методом ИИ.
Только обозначив эти границы, можно понять, какие проблемы такая технология действительно способна помочь решить. Такие ограничения могут быть показаны только математически, считает доктор Андерс Хансен из Кембриджского отделения прикладной математики и теоретической физики.