La IA sanitaria que tiene como objetivo ahorrar dinero acaba requiriendo muchos seres humanos caros.

LAMBERTNI: Entonces bajemos los estándares. Resuelto por Darius Tahir, un reportero radicado en Washington, D.C., que informa sobre tecnología sanitaria centrándose en cómo está ayudando (o no) a las poblaciones desatendidas. ¿Cómo se puede utilizar (o no) para ayudar a los esfuerzos de salud pública del gobierno? y si es tan innovador como es o no. Publicado originalmente en KFF Health News Preparar a los pacientes con cáncer para decisiones difíciles es el trabajo del oncólogo. Sin embargo, no siempre se acuerdan de hacerlo. en el Sistema de Salud de la Universidad de Pensilvania Los médicos reciben instrucciones de discutir el tratamiento de un paciente y las necesidades al final de su vida utilizando un algoritmo de inteligencia artificial que predice la probabilidad de muerte. Pero está lejos de ser una herramienta que se configura y se olvida. Las auditorías tecnológicas periódicas revelan que los algoritmos se han deteriorado durante la pandemia de COVID-19. Fue un 7 por ciento peor a la hora de predecir quién moriría. El estudio de 2022 probablemente tenga implicaciones en la vida real, Ravi Parikh, oncólogo de la Universidad de Emory y autor principal del estudio, dijo a KFF Health News que la herramienta no ha podido notificar a los médicos cientos de veces. Esto puede permitir poner fin a la quimioterapia innecesaria. con pacientes que lo necesitan Él cree que muchos algoritmos diseñados para mejorar la atención médica se han debilitado durante la pandemia, y no solo en Penn Medicine. «Muchas instituciones no realizan un seguimiento rutinario de la efectividad de sus productos», dijo Parikh, un aspecto del dilema que enfrentan los científicos informáticos y. Los médicos han aceptado durante mucho tiempo. Pero eso está empezando a plantear un enigma para los administradores e investigadores de hospitales: los sistemas de inteligencia artificial requieren monitoreo y dotación de personal constantes para que sigan funcionando bien. Básicamente: necesitas más personas y más máquinas. Para garantizar que las nuevas herramientas no causen problemas, “todo el mundo piensa que la IA nos dará acceso y capacidad. y mejorar la atención, etc.”, dijo Nigam Shah, científico jefe de datos de Stanford Health Care. “Todo eso está muy bien. Pero si aumentamos el costo de la atención en un 20%, ¿es eso posible? A los funcionarios del gobierno les preocupa que los hospitales carezcan de recursos para implementar estas tecnologías. «He buscado mucho», dijo el comisionado de la FDA, Robert Califf, en un panel reciente sobre IA. «No creo que exista un solo sistema de salud en los Estados Unidos que pueda revisar algoritmos de IA que puedan usarse en sistemas de atención clínica». La IA ya está muy extendida en la atención sanitaria. Los algoritmos se utilizan para predecir el riesgo de muerte o deterioro de un paciente. Para recomendar diagnóstico o clasificación de pacientes. Registrar y resumir las visitas para ayudar a los médicos a mantener sus trabajos. y aprobar reclamaciones de seguros Si los editores de tecnología tienen razón La tecnología se generalizará y será rentable. La firma de inversión Bessemer Venture Partners ha identificado 20 nuevas empresas de inteligencia artificial centradas en la salud que se espera que generen 10 millones de dólares en ingresos anuales. La FDA ha aprobado casi mil productos con inteligencia artificial. Evaluar si estos productos funcionan es un desafío. Si continúan operando o han desarrollado el software equivalente a una junta rota o un motor con fugas no es una evaluación. Es aún más complicado. Un estudio reciente de Yale Medicine evaluó seis «sistemas de alerta temprana» que alertan a los médicos cuando es probable que la condición de un paciente se deteriore rápidamente, dijo Dana Edelson, médico de la Universidad de Chicago y cofundador de una empresa que proporcionó un algoritmo único para. El estudio dijo que su supercomputadora procesó los datos durante varios días. Este proceso fue exitoso. Muestra una gran diferencia en el rendimiento entre los seis productos. No es fácil para los hospitales y proveedores elegir el mejor algoritmo para sus necesidades. Los médicos de cabecera no tienen supercomputadoras por ahí. Y no hay informes de consumidores sobre la IA. «No tenemos estándares», dijo Jesse Ehrenfeld, ex presidente de la Asociación Médica Estadounidense. “No hay nada que pueda señalarles hoy que sea estándar sobre cómo evaluar, rastrear y observar el desempeño de un modelo algorítmico. ya sea que la IA esté habilitada o no, una vez implementada”. Quizás el producto de IA más común en los consultorios médicos se llama Ambient Documents, un asistente tecnológico que escucha y resume las visitas de los pacientes. El año pasado, los inversores de Rock Health rastrearon el flujo de 353 millones de dólares hacia estas empresas de documentos, pero Ehrenfeld dijo que «actualmente no existe ningún estándar para comparar los resultados de estas herramientas», y eso es un problema. Cuando hasta el más mínimo error puede resultar desastroso. Un equipo de la Universidad de Stanford intentó utilizar un modelo de lenguaje a gran escala. Esta es la tecnología que sustenta la popular herramienta de inteligencia artificial ChatGPT para resumir el historial médico de un paciente. Comparan los resultados con lo que escribirá el médico. “Incluso en el mejor de los casos Estos modelos también tienen una tasa de error del 35%”, dice Shah de Stanford In Medicine. “Cuando estás escribiendo una sinopsis y olvidas una palabra, como ‘fiebre’, quiero decir, Eso es un problema, ¿verdad? A veces las razones por las que falla un algoritmo son bastante lógicas. Por ejemplo, los cambios en los datos subyacentes pueden erosionar el rendimiento, como cuando un hospital cambia de proveedor de laboratorio. Sin embargo, a veces pueden surgir obstáculos sin razón aparente. dijo Sandy Aronson, ejecutivo de tecnología del programa de medicina personalizada del Mass General Brigham en Boston, cuando su equipo probó una aplicación destinada a ayudar a los asesores genéticos a buscar en la literatura sobre especies de ADN, el producto sufre un problema «indeterminado», es decir, cuando el se hace la misma pregunta. Cuando se le preguntó varias veces durante un corto período de tiempo, se obtuvieron resultados diferentes. Aronson está entusiasmado con el potencial de los modelos de lenguaje a gran escala para resumir el conocimiento de los asesores genéticos sobrecargados, pero «la tecnología necesita mejorar» si las unidades métricas y estándar son pocas y están lejos. entre y pueden ocurrir errores por razones extrañas. ¿Qué debe hacer la institución? Invertir muchos recursos En la Universidad de Stanford, Shah dijo que verificar la equidad y confiabilidad de dos modelos tomó de ocho a 10 meses y 115 horas de trabajo. Los expertos entrevistados por KFF Health News plantearon la idea de que la inteligencia artificial siga a la inteligencia artificial, con algunos datos (humanos) rastreando ambas. Todo el mundo admira que varias organizaciones tener que gastar más dinero Esa es una pregunta difícil dados los presupuestos limitados de los hospitales y los expertos en tecnología de inteligencia artificial. «Es genial tener una visión en la que estamos derritiendo el iceberg para que el modelo pueda seguir el ritmo de su modelo», dijo Shah. ¿Es eso lo que realmente quiero? ¿Cuántas personas más necesitamos?