La inteligencia artificial en dispositivos médicos: un avance preocupante
La inteligencia artificial ha revolucionado la industria de los dispositivos médicos, pero algunos profesionales de la salud afirman que ha añadido una capa de complejidad en las quirófanos que está provocando lesiones en los pacientes.
Según reporta Reuters, el sistema de navegación TruDi, creado por la empresa Acclarent, fue diseñado para tratar la sinusitis crónica. Este dispositivo inserta un pequeño globo para ampliar las aberturas de los senos nasales.
Desde que se incorporó la inteligencia artificial, la Administración de Alimentos y Medicamentos (FDA) de EE. UU. ha recibido al menos 100 informes no confirmados de fallos y eventos adversos, incluido un mínimo de diez incidentes de lesiones en pacientes.
Aunque no está claro el papel que jugó la inteligencia artificial en estos casos, las consecuencias han sido graves: desde lesiones en la base del cráneo hasta filtraciones de líquido cefalorraquídeo.
Dos víctimas que alegan haber sufrido accidentes cerebrovasculares tras realizarse una sinuplastia con el sistema TruDi han demandado a Acclarent, que fue adquirida por Integra LifeSciences. Una de las demandantes, Erin Ralph, acusa a la empresa de haber inducido al cirujano Marc Dean a cometer un error durante un procedimiento en 2022, lo que ocasionó una lesión en una arteria carótida y, finalmente, un accidente cerebrovascular.
En este sistema, la inteligencia artificial se utiliza para confirmar la posición de los dispositivos en la cabeza del paciente.
Uno de los demandantes sostiene: “El producto era indudablemente más seguro antes de la integración de inteligencia artificial que después de los cambios en el software”, según lo citado por Reuters.
La segunda demanda fue presentada por Donna Fernihough, quien afirma que su arteria carótida se “explotó”, causando un derrame de sangre y resultando en un accidente cerebrovascular el mismo día.
Fernihough afirma que Acclarent “sabía o debería haber sabido que la supuesta inteligencia artificial causaba o agravaba la tendencia del sistema de navegación integrado a ser inconsistente, inexacto e unreliable”. Además, se acusa a la empresa de haber reducido “sus estándares de seguridad para apresurar la nueva tecnología al mercado”, estableciendo como meta sólo un 80% de precisión para algunos de los nuevos dispositivos.
Integra LifeSciences respondió a Reuters que “no hay evidencia creíble que muestre una conexión causal entre el sistema de navegación TruDi, la tecnología de inteligencia artificial y las lesiones alegadas”. Acclarent niega las acusaciones en ambas demandas, que aún están en curso.
Estos incidentes destacan cómo la inteligencia artificial se está integrando rápidamente en los quirófanos, una tendencia que comenzó mucho antes de la llegada de modelos de lenguaje grandes como el que impulsa ChatGPT. Por ejemplo, se han utilizado algoritmos de aprendizaje automático durante décadas para detectar enfermedades como el cáncer en escaneos médicos.
Ya hemos visto reportes de instrumentos médicos impulsados por inteligencia artificial que caen en las limitaciones conocidas de la tecnología. Un estudio reciente encontró que dos de cada tres de más de 12,000 pacientes identificados como con insuficiencia cardíaca por un estetoscopio mejorado por IA, en realidad no tenían tal condición.
También han surgido chatbots basados en modelos de lenguaje diseñados para ofrecer consejos médicos que experimentan “alucinaciones” generalizadas. Los expertos advierten que los médicos están perdiendo la capacidad de identificar cáncer en escaneos debido a la dependencia de detectores impulsados por IA.
La regulación sobre el uso de dispositivos médicos con inteligencia artificial y su capacidad para garantizar la seguridad de los pacientes sigue siendo un tema de intenso debate. Los dispositivos que utilizan inteligencia artificial no necesitan ser sometidos a ensayos clínicos antes de su aprobación por la FDA; muchos fabricantes se basan en dispositivos autorizados previamente antes de añadir IA.
Peor aún, los enormes recortes en el presupuesto de la FDA durante la administración de Trump han llevado al despido de decenas de científicos en IA, lo que ha añadido presión a aquellos que permanecen. Un antiguo revisor de dispositivos indicó que “si no se tienen los recursos, es más probable que se pasen cosas por alto”.
Mientras tanto, la FDA ha intensificado su apuesta por la tecnología, externalizando funciones de supervisión a modelos de lenguaje para “fomentar la innovación” y acelerar las aprobaciones de medicamentos.
Recientemente, el administrador de los Centros de Servicios de Medicare y Medicaid, Mehmet “Doctor Oz” Oz, se jactó sobre “robots” capaces de realizar ultrasonidos en mujeres embarazadas y “varitas” que pueden determinar si “el niño está bien o no”.
“Y, francamente, no tengo que ver la imagen”, dijo. “Solo tengo que saber si la imagen es lo suficientemente buena como para decirme que el niño no tiene problemas”.
Más sobre inteligencia artificial médica: Visita el enlace.
Con información de https://futurism.com/health-medicine/ai-surgery-tool-injuring-patients-lawsuits
