ИИ в медицине должен противостоять предвзятости, а не усугублять ее : кадры

От

К

Райан Леви

,

Дэн Горенштейн

Искусственный интеллект в здравоохранении еще только начинает развиваться, но в некоторых инструментах уже обнаружена расовая предвзятость. Здесь медицинские работники больницы в Калифорнии протестуют против расовой несправедливости после убийства Джорджа Флойда. МАРК РАЛСТОН/AFP через Getty Images скрыть подпись

Искусственный интеллект в здравоохранении еще только начинает развиваться, но в некоторых инструментах уже обнаружена расовая предвзятость. Здесь медицинские работники больницы в Калифорнии протестуют против расовой несправедливости после убийства Джорджа Флойда.

Врачи, специалисты по обработке данных и руководители больниц считают, что искусственный интеллект может помочь решить проблемы, которые до сих пор считались неразрешимыми. ИИ уже обещает помочь врачам диагностировать рак молочной железы, читать рентгеновские снимки и предсказывать, какие пациенты нуждаются в большем уходе. Но по мере роста волнения возникает и риск: эти мощные новые инструменты могут увековечить давнее расовое неравенство в том, как оказывается помощь.

«Если вы все испортите, вы действительно можете навредить людям, еще больше укоренив системный расизм в системе здравоохранения», — сказал доктор Марк Сендак, ведущий специалист по данным в Институте инноваций в области здравоохранения Дьюка.

Эти новые инструменты здравоохранения часто создаются с использованием машинного обучения — подмножества искусственного интеллекта, алгоритмы которого обучаются находить закономерности в больших наборах данных, таких как платежная информация и результаты тестов. Эти закономерности могут предсказать будущие результаты, например, вероятность развития у пациента сепсиса. Эти алгоритмы могут постоянно контролировать каждого пациента в больнице, предупреждая врачей о потенциальных рисках, которые в противном случае мог бы упустить переутомленный персонал.

Однако данные, на которых построены эти алгоритмы, часто отражают неравенство и предвзятость, которые уже давно преследуют систему здравоохранения США. Исследования показывают, что врачи часто оказывают разную помощь белым и цветным пациентам. Эти различия в лечении пациентов закрепляются в данных, которые затем используются для обучения алгоритмов. Цветные люди также часто недостаточно представлены в этих наборах обучающих данных.

«Когда вы извлекаете уроки из прошлого, вы копируете прошлое. Вы еще больше закрепляете прошлое», — сказал Сендак. «Потому что вы берете существующее неравенство и рассматриваете его как стремление к тому, как должно предоставляться здравоохранение».

Знаменательное исследование 2019 года, опубликованное в журнале Science, показало, что алгоритм, используемый для прогнозирования потребностей в медицинской помощи более чем 100 миллионов человек, был предвзятым в отношении чернокожих пациентов. Алгоритм опирался на расходы на здравоохранение для прогнозирования будущих потребностей в области здравоохранения. Но исторически сложилось так, что чернокожие пациенты, имея меньший доступ к медицинской помощи, часто тратили меньше. В результате чернокожие пациенты должны были болеть намного хуже, чтобы им был рекомендован дополнительный уход в соответствии с алгоритмом.

«По сути, вы идете туда, где есть наземные мины», — сказал Сендак о попытке создать клинические инструменты искусственного интеллекта, используя данные, которые могут содержать предвзятость, — «и [если вы не будете осторожны] ваши вещи взорвутся, и это причинит вред людям». ."

Осенью 2019 года Сендак объединилась с педиатрическим врачом неотложной медицинской помощи доктором Эмили Стерретт, чтобы разработать алгоритм, помогающий прогнозировать детский сепсис в отделении неотложной помощи больницы Университета Дьюка.

Сепсис возникает, когда организм слишком остро реагирует на инфекцию и атакует собственные органы. Хотя это заболевание редко встречается у детей (около 75 000 случаев в год в США), это предотвратимое заболевание приводит к летальному исходу почти для 10% детей. При быстром выявлении антибиотики эффективно лечат сепсис. Но поставить диагноз сложно, поскольку типичные ранние симптомы — лихорадка, учащенное сердцебиение и высокое количество лейкоцитов — имитируют другие заболевания, включая простуду.

Алгоритм, который мог бы предсказать угрозу сепсиса у детей, изменил бы правила игры для врачей по всей стране. «Когда на кону стоит жизнь ребенка, очень важно иметь резервную систему, которую ИИ мог бы предложить, чтобы частично компенсировать человеческие ошибки», — сказал Стерретт.