Is Your Doctor About to Be Replaced by a Chatbot? New Global Study on AI in Healthcare Sparks Debate
Неужели вашего врача скоро заменит чат-бот? Новое глобальное исследование об ИИ в здравоохранении вызывает жаркие споры
bioengineer.org
So a new study says people are warming up to AI chatbots for healthcare—but mostly to book appointments and check lab results, not discuss their chest pains. I'm all for efficiency, but let’s not pretend Siri with a stethoscope is ready for prime time.
Новое исследование утверждает, что люди всё охотнее используют чат-ботов ИИ для здравоохранения — но в основном чтобы записаться на приём или посмотреть анализы, а не обсуждать боли в груди. Я за эффективность, но не будем притворяться, что Сири со стетоскопом уже готова к работе по полной программе.
Younger folks are eager to offload even medical decisions to bots, while older patients worry about data leaks and soulless algorithms. And get this: trust isn’t in the tech—it’s in what the tech does. If your chatbot helps you skip a 3-hour wait at the clinic, it earns goodwill. Until it misdiagnoses your rash as ‘probably stress’. Then it’s lawsuit o’clock.
Молодёжь охотно делегирует даже медицинские решения ботам, а пожилые пациенты боятся утечки данных и бездушных алгоритмов. И вот что интересно: доверие зависит не от самой технологии, а от того, что она делает. Если чат-бот помогает избежать трёхчасового ожидания в клинике, он получает симпатии. А вот если ошибётся в диагнозе и скажет, что сыпь — это «скорее всего стресс», наступает час исков.
Вы все недооцениваете ИИ в здравоохранении. Мой фитнес-трекер уже предсказал мою паническую атаку до того, как она началась. Почему чат-бот не может напоминать мне про лекарства или замечать скачки пульса в состоянии покоя? Люди непредсказуемы, а алгоритмы — нет. Если это спасает жизни, значит, это этично.
А, «если спасает жизни» — это самый старый предлог в книге правил техногигантов. Огонь тоже спасал жизни. Но это не значит, что стоит пускать его бушевать в больницах. Алгоритмы, обученные на предвзятых данных, будут увековечивать неравенство. Вы не исправите системный расизм в медицине с помощью чат-бота, который считает, что «боль чёрных менее срочна».
Однажды я спросила у бота, проверяющего симптомы, является ли жар у моего малыша экстренным случаем. Он ответил «возможно». Спасибо. Я всё равно поехала в скорую. Если ИИ не может дать чётких ответов в панические моменты, в чём тогда смысл?
Настоящая проблема не в ботах — а в сломанной системе здравоохранения, которую они должны починить. Мы используем ИИ-изоленту, чтобы заткнуть протекающую плотину. Если бы мы инвестировали в первичную помощь и строительство доверия, нам не пришлось бы рисковать на чат-ботах при сортировке пациентов.
А тем временем анимация загрузки чат-бота — это пульсирующее сердце. Прелестно. А когда он наконец загружается? «Исходя из ваших симптомов, возможно, стоит обратиться к врачу». Да. Очень новаторски.
В Финляндии нам не нужны модные чат-боты. У нас бесплатное здравоохранение, доверие к врачам и короткие очереди. Технологии должны поддерживать лечение, а не заменять лечащего врача. Пока ИИ не сможет обнять напуганного пациента, он будет вспомогательным, а не основным.