“Solo alguien con cero conocimiento de radiología diría algo tan ingenuo”.
Solo unas semanas después de la huelga de enfermeras más grande en la historia de la ciudad de Nueva York, el CEO de NYC Health and Hospitals tiene una visión audaz para un futuro en el que la IA, no los radiólogos humanos, examinen y diagnostiquen radiografías.
En un panel celebrado por Crain’s New York Business, Mitchell Katz, presidente y CEO de la corporación de beneficios públicos de 11 hospitales de Nueva York, hizo gestos abiertos de su deseo de reemplazar a expertos en radiología altamente capacitados con modelos de IA de lenguaje visual, informó Radiology Business.
“Podríamos reemplazar a una gran cantidad de radiólogos con IA en este momento, si estamos listos para hacer el desafío regulatorio”, dijo Katz en el panel.
Un ejemplo que dio, según Radiología, afectaría a la atención médica de las mujeres en particular, al automatizar la detección del cáncer de mama con herramientas de IA. Al dejer de lado a los radiólogos hasta que un sistema de IA marque una lectura como anormal, declaró Katz, los hospitales podrían lograr “grandes ahorros”.
Mohammed Suhail, radiólogo de North Coast Imaging en San Diego, dijo a Radiology que los comentarios de Katz son “pruebas innegables de que los administradores de hospitales confiados y desinformados son un peligro para los pacientes” y son “fácilmente engañados por empresas de IA que no son ni de lejos capaces de proporcionar atención al paciente”.
“Cualquier intento de implementar lecturas solo de IA resultaría inmediatamente en daño y muerte del paciente, y solo alguien con cero conocimientos de radiología diría algo tan ingenuo”, continuó Suhail. “Pero en cierto sentido, tienen razón: los hospitales están felices de reducir costos, incluso si eso significa dañar al paciente, siempre y cuando sea legal”.
De hecho, un creciente cuerpo de investigación sugiere que la IA en la sala de rayos X es un desastre a la espera de suceder.
En un estudio aún por revisar por pares, los investigadores de Stanford descubrieron que las herramientas de rayos X de tórax de IA construidas en modelos de IA de vanguardia pueden superar las pruebas de referencia médica sin ver nunca imágenes reales de rayos X. En lugar de admitir que faltan las imágenes, los sistemas de IA de mayor puntuación participarían en lo que equivale a un truco de salón barato: construir una explicación elaborada para los hallazgos en rayos X a los que nunca tuvo acceso en primer lugar.
Esta situación va un paso más allá de las meras alucinaciones de la IA en lo que los investigadores llaman un “espejismo” de la IA. A diferencia de los errores generativos de IA que hemos llegado a esperar, el espejismo de la IA es increíblemente racional de principio a fin. El problema es que estos espejismos no se basan en nada, lo que significa que las salvaguardas habituales de alucinaciones no son suficientes para disuadirlos.
“En este mimetismo epistémico, el modelo simula todo el proceso perceptivo que habría llevado a la respuesta”, escribieron los científicos de Stanford. “Esto ayuda a explicar por qué los rastros de razonamiento, por sí solos, no pueden certificar el razonamiento visual: el rastro puede ser fluido, coherente y aparentemente basado en imágenes mientras no está anclado a ninguna imagen”.
Además de reforzar investigaciones anteriores que sugieren que los modelos de IA del lenguaje visual son funcionalmente ciegos, este estudio tiene implicaciones importantes para cualquier hospital que recorra a la IA para recortar su unidad de radiología, sin mencionar a cualquier paciente lo suficientemente desafortunado como para estar en el extremo receptor de un espejismo de imágenes médicas.
