Implicaciones de la inteligencia artificial en la industria de la salud

Expertos de la industria de la salud temen que los productos basados en inteligencia artificial (IA), no puedan igualar el bombo publicitario. Médicos y defensores de los consumidores se preocupan sobre si la industria de la tecnología pone en riesgo a los pacientes y los reguladores no hacen lo suficiente para mantener a los usuarios seguros.

La verificación de la realidad podría conducir a resultados decepcionantes cuando los productos de IA se introducen en el mundo real. Según el portal Kaiser Health News, en palabras del doctor Eric Topol, cardiólogo y vicepresidente ejecutivo de Scripps Research en California, ninguno de los productos vendidos en los Estados Unidos fue probado en ensayos clínicos aleatorios, la fuente más fuerte de evidencia médica.

“Los primeros experimentos en IA proporcionan un motivo de precaución. Los sistemas desarrollados en un hospital a menudo fracasan cuando se implementan en una instalación diferente. Se ha demostrado que el software utilizado para el cuidado de millones de estadounidenses discrimina a las minorías. Y los sistemas de IA a veces aprenden a hacer predicciones basadas en factores que tienen menos que ver con la enfermedad”, aseguró Mildred Cho, profesora de pediatría en el Centro de Ética Biomédica de Stanford.

Bob Kocher, socio de la firma de capital de riesgo Venrock, dijo que “la mayoría de los productos de IA tienen poca evidencia que los respalde. “Vamos a seguir descubriendo un montón de riesgos y consecuencias no deseadas del uso de estos en los datos médicos”. Algunos no serán evidentes hasta que un gran número de pacientes utilicen uno de estos.

Pocas nuevas empresas tecnológicas publican su investigación en revistas examinadas por pares, según un artículo de enero en la Revista Europea de Investigación Clínica, dicha investigación oculta, descrita solo en comunicados de prensa o eventos promocionales, a menudo exagera los logros de una empresa.

Y aunque los desarrolladores de software pueden jactarse de la precisión de sus dispositivos, los expertos señalan que los modelos se prueban en computadoras, no en hospitales u otras instalaciones médicas. El uso de software no probado “puede convertir a los pacientes en conejillos de indias inconscientes”, afirmóa KHN el doctor Ron Li, director de informática médica para la integración clínica de IA en Stanford HealthCare.

Sin embargo, la mayoría de los dispositivos de IA no requieren la aprobación de la FDA. Los defensores de los consumidores reconocen que algunos instrumentos, como los que ayudan a las personas a contar sus pasos diarios, necesitan menos escrutinio que los que diagnostican o tratan la enfermedad.Según un estudio de 2018 publicado en AnalesdeMedicina Interna, algunos desarrolladores de software no se molestan en solicitar la autorización de la FDA, incluso cuando es legalmente requerido.

FDA en la mira

En los últimos años, la FDA ha sido criticada por permitir la venta de dispositivos médicos peligrosos, que según el Consorcio Internacional de Periodistas de Investigación se vinculan a 80.000 muertes y 1.7 millones de lesiones en la última década. Muchos de estos aparatos fueron aprobados para su uso a través de un proceso controvertido llamado la vía 510 (k), que permite a las empresas comercializar productos de riesgo moderado sin pruebas clínicas, siempre que se consideren similares a los existentes.

Ya en 2011 un comité de la Academia Nacional de Medicina concluyó que el proceso 510 (k) es tan defectuoso que la FDA debería descartarlo. En cambio, la agencia continua utilizándolo para dar luz verde a los dispositivos de IA. De los 14 productos de IA autorizados por la FDA en 2017 y 2018, 11 fueron aprobados así; un artículo de la Revista JAMA indica que ninguno de estos parece haber tenido nuevas pruebas clínicas.

Para hacer frente a la avalancha, la FDA prueba un enfoque radicalmente diferente para la regulación de dispositivos digitales que se centraría en evaluar empresas y no productos. El programa piloto de precertificación fue lanzado en 2017.

En palabras de la profesora Cho y como muestran distintos estudios, “el software con resultados sorprendentes en un laboratorio de computación, puede fracasar cuando se prueba en tiempo real. Las enfermedades son más complejas y el sistema de atención médica es mucho más disfuncional, de lo que los informáticos anticipan”.

Numerosos desarrolladores eliminan los registros de salud electrónicos porque contienen grandes cantidades de datos, a menudo no son conscientes de que construyen sobre un sistema roto. Los registros de salud electrónicos se desarrollaron para la facturación, no para la atención al paciente y están llenos de errores o datos faltantes.