Можно ли доверить ИИ заботу о здоровье и каковы главные риски: мнение экспертов

Можно ли доверить ИИ заботу о здоровье и каковы главные риски

Чем искусственный интеллект полезен, а чем может быть вреден при помощи в лечении, читайте в материале РИАМО.

Искусственный интеллект (ИИ) может принести пользу как для врача, так и для пациента. При этом бесконтрольное следование советам цифровых помощников, напротив, может нести в себе огромные риски для здоровья, предупреждают специалисты.

Что говорят российские врачи про советы от нейросетей

Фото - © Щеголева Ольга / Фотобанк Лори

О том, что ИИ может помочь составить лечебное меню для больного желудка, однако использовать нейросети стоит с осторожностью и только под руководством специалистов, в беседе с изданием «Om1 Новосибирск» недавно рассказали городские врачи.

«Да, к нам приходят пациенты после того, как ИИ напугает их диагнозом или неправильно назначит лечение, такое было не раз и не два. Люди придумывали себе диагнозы, сами себе назначали лечение. Ничем хорошим это, конечно же, не закончилось. Один пациент себе так очень сильно желудок испортил», — сообщила врач-терапевт поликлиники № 20.

Несмотря на потенциальные опасности, врачи обозначили пределы, в рамках которых нейросети могут принести пользу. После консультации с врачом и получения диетических рекомендаций нейросеть превращается в полезный инструмент для организации питания. В частности, ИИ может:

• разработать меню, соответствующее диетическому плану, предписанному врачом;
• разработать примерный распорядок питания на каждый день;
• помочь с рецептами блюд.

В каких медицинских вопросах ИИ может быть советчиком

Фото - © Иван Рябоконь / Фотобанк Лори

Искусственный интеллект действительно может стать помощником в вопросах здоровья — его ценность очевидна, но только при четких границах применения, контроле специалиста и оценке рисков, говорит в беседе с РИАМО эксперт по цифровой трансформации и CEO компании Aiston (занимается внедрением решений на основе ИИ для клиник и медицинских центров) Иван Григорьев.

«Наибольшая эффективность достигается не в диагностике, а в поддержке и организации здоровья. Для пациентов это напоминания о приеме лекарств, подбор меню в рамках уже назначенной врачом диеты, помощь в записи на прием и контроль выполнения рекомендаций», — рассказывает специалист.

Например, если врач назначил пациенту диету № 5 по Певзнеру, пациент может обратиться к нейросети и ввести запрос: «Пожалуйста, создай для меня меню на неделю, предоставь рецепты, соответствующие диете № 5 по Певзнеру, учитывая мои индивидуальные особенности: рост, вес и прочее, с расчетом калорий, белков, жиров». Это полезная функция ИИ, но важно, чтобы меню соответствовало рекомендациям врача, отмечали медики из Новосибирска.

Кроме того, по словам Ивана Григорьева, нейросети также хорошо справляются с задачами просвещения: они могут разъяснять диагнозы и результаты анализов простым языком, выявлять дезинформацию и помогать пациентам готовить вопросы к врачам. Но здесь важно, чтобы модели использовали качественные источники и всегда сопровождались дисклеймерами, подчеркивает эксперт.

В свою очередь, врач-кардиолог Наталья Пикулик указывает на то, что ИИ можно использовать в качестве помощника в заботе о здоровье при наличии критического отношения к тому, что он выдает. Например, ему можно показать результаты своих анализов, и при отклонениях в показателях он может посоветовать обратиться к врачу.

«У меня так по совету ИИ приходили пациенты с высоким холестерином. Мужчина загрузил свои анализы в нейроассисиента для получения рекомендации и в итоге записался к кардиологу. Это — большое подспорье для пациентов», — отмечает специалист.

Как нейросети могут вредить пациентам

Фото - © Иван Рябоконь / Фотобанк Лори

Сегодня люди часто сдают анализы или проходят обследования самостоятельно, говорит в беседе с РИАМО Наталья Пикулик. Но использовать нейросети при этом нужно с осторожностью, добавляет специалист.

«Чего однозначно не стоит делать с помощью ИИ — так это ставить себе диагнозы и прописывать лечение. За такими данными необходимо обращаться к живому специалисту, имеющему большой клинический опыт», — предупреждает Пикулик.

Все дело в том, что при назначении лечения требуется учитывать множество нюансов и деталей, о которых не знает пациент. Поэтому он не может обозначить эти детали нейросетям — и рискует получить «лечение», которое ему не подходит. В качестве примера Пикулик приводит историю, когда мужчина решил лечить бессонницу с помощью ИИ. Нейроассисиент выписал ему старый препарат для лечения, который при увеличении дозы вызывал галлюцинации — и мужчина в итоге попал в психиатрическую больницу.

Если человек обращается к ИИ за диагнозом или лечением без осмотра и анализов, он серьезно рискует, соглашается Иван Григорьев. Пациенты часто неверно формулируют симптомы или склонны к тревожности и самодиагностике, а нейросеть в таких случаях только усиливает страх и может привести к отсрочке визита к врачу или к осложнениям.

«Иными словами, ИИ не может заменить врача — алгоритм не обладает клиническим мышлением, не умеет учитывать весь контекст (состояние, анамнез, сопутствующие заболевания). Врач же опирается на годы практики и способен отличить истину от искажения», — объясняет эксперт.

По словам Григорьева, есть несколько признаков, что советы ИИ могут быть потенциально вредными: постановка точных диагнозов, категоричные инструкции («вам нужна операция»), отсутствие упоминаний о необходимости консультации специалиста или эмоционально-оценочные формулировки. В таких случаях правильное решение — перепроверить информацию и обратиться к врачу. ИИ не должен вызывать тревогу или менять курс лечения, подчеркивает собеседник РИАМО.

Каковы перспективы ИИ в медицине

Фото - © Анна Кривицкая / Фотобанк Лори

Сегодня искусственный интеллект может посоветовать пациенту и лечение, и диагностику, но лишь при условии, что промт (запрос) составлен врачом-специалистом, говорит Наталья Пикулик.

При этом у самих врачей во многих клиниках также есть система поддержки принятия решений. Так, во время обращения пациента, когда врач предполагает наличие того или иного диагноза, при выставлении этого диагноза в электронной карте автоматически выпадают направления на все необходимые исследования, чтобы подтвердить или исключить диагноз.

«Таким образом, врач точно не забудет дать пациенту все необходимые направления», — отмечает Пикулик.

Сегодня можно уверенно говорить: искусственный интеллект — это, в первую очередь, инструмент и помощник врача в автоматизации его рутины и возвращении времени на пациента, дополняет Иван Григорьев. Это и предварительная сортировка жалоб, и заполнение медицинских форм, выписок, памяток, и голосовое оформление протоколов.

Кроме того, нейросети могут помогать в принятии решений при типовых ситуациях. Хотя это тоже большая опасность — когда технология создает иллюзию безошибочности, отмечает эксперт. Если врач начинает полагаться на алгоритм без критической проверки, ошибка становится почти неизбежной. Поэтому в сложных и пограничных случаях решение должен принимать живой специалист.

«Таким образом, задача искусственного интеллекта — не заменить клиническое мышление, а расширить его возможности. Технологии должны брать рутину и помогать поддерживать процесс, но человек сохраняет ответственность за свое здоровье», — заключает Григорьев.