Tu IA médica también conoce la maldad

Por: <br><strong>Martín Sacristán</strong>

Por:
Martín Sacristán

Algunos hospitales de EEUU están aplicando la modelización de pacientes mediante herramientas IA. En base a su historia y sintomatología predicen qué enfermedades sufrirán, cuánto tiempo tardará en surtir efecto el tratamiento terapéutico, y cuál será su pronóstico y evolución.
Por: <br><strong>Martín Sacristán</strong>

Por:
Martín Sacristán

La Comisión Europea en su Libro Blanco sobre Inteligencia Artificial (febrero de 2020) califica los riesgos de la aplicación de la IA como “potenciales”, mientras que describe sus beneficios como “reales e inmediatos”. Es un retrato fiel de lo que está sucediendo con la IA en nuestra sociedad. Oímos hablar de ella como si ya se estuviera empleando en nuestra vida diaria, sin que estemos seguros de cómo nos afecta.

Los desarrolladores de IAs aseguran que han contribuido al desarrollo de las vacunas contra la COVID-19 en un plazo récord. Esta tecnología habría permitido identificar cuáles de entre las proteínas que componen el virus sufren menos mutaciones y proporcionan mayor respuesta inmunológica. Los laboratorios mantienen en secreto su proceso, y los especialistas aseguran que la IA no supone una ventaja sobre métodos más simples y tradicionales, como el test serológico, el mapeado de determinantes antigénicos, o los estudios de biología estructural. Pero es un hecho, menos de tres meses después de aparecida la enfermedad en China el primer modelo de identificación de las proteínas de este virus, obtenido con IA, fue publicado por la Universidad de Stanford. Le siguieron, poco después la del Swiss-Model de la Universidad de Basilea, y las de DeepMind y AlphaFold (Google).

Si un algoritmo es capaz de emplearse en curarnos de una nueva enfermedad no podemos sino aplaudir. Pero qué ocurre cuando aquellos que componen la IA se aplican al otro sector de la salud donde ya han comenzado a afectarnos. El diagnóstico. Algunos hospitales de EEUU están aplicando la modelización de pacientes mediante herramientas IA. En base a su historia y sintomatología predicen qué enfermedades sufrirán, cuánto tiempo tardará en surtir efecto el tratamiento terapéutico, y cuál será su pronóstico y evolución. Es un proceso de extraordinaria importancia en un país donde no existe la sanidad pública, y donde los importes de las primas de salud, copagos y coberturas pueden dejarte en la ruina.

Apenas un año después de aplicado este algoritmo fue detectado su primer sesgo. A igualdad de síntomas e historial, aumentaba sistemáticamente los precios de las primas a las personas negras. La IA hizo su aprendizaje con los datos de EEUU, donde este segmento de población sufre en mayor proporción enfermedades crónicas asociadas a la edad, como diabetes y cardiopatías. El motivo es que al tener sueldos más bajos y acceder mayoritariamente a trabajos sin seguro médico reciben menos atención temprana.

Ningún algoritmo médico, en ningún lugar del mundo, tiene la aprobación de una agencia del medicamento. Sus únicas certificaciones, las ISO y equivalentes, no aseguran la bondad del algoritmo, su objetividad en el análisis de la salud del paciente.

El problema también ha llegado a la UE. Estonia ya usa un algoritmo para decidir qué pacientes crónicos son tratados en atención primaria y cuáles hospitalizados. Bélgica está ultimando un acuerdo de colaboración con la empresa Kantify para identificar de entre los recién nacidos cuáles desarrollarán al ser adultos fibrilación auricular y riesgo de infarto. Mientras los especialistas médicos subrayan un hecho muy relevante. Ningún algoritmo médico, en ningún lugar del mundo, tiene la aprobación de una agencia del medicamento. Sus únicas certificaciones, las ISO y equivalentes, no aseguran la bondad del algoritmo, su objetividad en el análisis de la salud del paciente, la ausencia de sesgos, ni la adaptación a las leyes vigentes en el país. Las bases de las IAs son superficies oscuras cuyo trasfondo nos es completamente desconocido. Joaquín Dopazo, director de la Clinical Bioinformatics Area de la Junta de Andalucía explica que ningún algoritmo pasaría la fase 2 de un estudio clínico. Josep Monterde, CEO de Asserta, subraya que por esta misma razón desconocemos su eficacia en la práctica clínica real. Y sin embargo ya se están empleando.

Habrán servido entonces de algo nuestros aplausos. Los que dábamos al personal sanitario en todo el mundo. Nosotros aplaudíamos su bondad al sacrificarse en pro de tratar a los enfermos de coronavirus. Enfermaron, algunos murieron, y cuando la saturación hospitalaria estuvo en su máximo eligieron a quién intentaban salvar y a quién dejaban morir. Después de esta aceleración digital, cuando médicos y máquinas decidan juntas sobre nuestra salud, ¿también la tecnología intentará salvarnos? De momento no parece que estemos enseñándola a hacerlo.

Martín Sacristán

Periodista y escritor. Miembro del Consejo Editorial de Bifurcaciones. Narra la actualidad contemporánea cada semana en JotDown. Escribe sobre ciencia y tecnología del deporte para el Barça Innovation Hub del F.C. Barcelona. Colabora en la revista El Ciervo. Es autor de libros de ensayo y ficción.