Tu médica es una IA (y quizá no lo sabes)
Por LQSomos*
Quién se hace responsable? Cuando una decisión automatizada provoca un daño, ¿la responsabilidad es del médico que la valida, del hospital o de la empresa que diseñó el software? ¿Dónde queda el factor humano? La falta de transparencia, plantea un riesgo de deshumanización y de pérdida de control por parte del paciente…
Esta investigación empezó con una sorpresa en una consulta de oftalmología. Una periodista del grupo CIVIO fue atendida por una máquina llamada Eyelib que, en minutos, realizó un examen completo. Nadie le advirtió de que estaba siendo evaluada por un sistema de inteligencia artificial. Solo lo supo al recibir un papel al terminar.
Durante meses, han investigado una de las transformaciones más silenciosas y profundas de nuestro sistema sanitario. Han enviado decenas de solicitudes de información a todas las comunidades autónomas para saber qué sistemas usan, hemos reclamado cuando nos han negado los datos, han rastreado contratos públicos y han hablado con médicos, juristas y expertos en tecnología o en psicología experimental.
En la investigación queda patente una realidad de dos caras. Por un lado, un potencial innegable: en Navarra, el sector público desarrolla sus propias herramientas para tratar la ceguera; en radiografía pediátrica, si la IA permite acelerar la adquisición de imágenes y reducir el tiempo de la prueba, el beneficio puede ser tan importante como no anestesiar a un niño. En Andalucía, un jefe de dermatología lo resumía así: “la inteligencia artificial ha venido para solucionar no solo lo gordo que es el diagnóstico, sino para ayudarnos en el día a día una barbaridad”.
Pero, junto con promesas, también hay una zona gris: de riesgos, improvisación y falta de transparencia. Fallos técnicos graves, como el de un algoritmo del CSIC que parecía infalible pero que aprendió a diagnosticar (mal) neumonía fijándose en la postura del paciente y no en sus pulmones. Errores de implementación aún más profundos, como el chatbot de la Agencia del Medicamento retirado por dar consejos peligrosos a la población. Externalización del diagnóstico, con personal de empresas privadas, en lugar de sanitarios públicos, operando las máquinas en los hospitales. Os dejamos con el artículo completo firmado por Ángela Bernardo y María Álvarez del Vayo…
⇒ Leer la investigación completa, clic aquí ⇐
* CIVIO, periodismo de accion para vigilar lo público.
Comparte este artículo, tus amig@s lo agradecerán…
Mastodon: @LQSomos@nobigtech.es Telegram: LoQueSomosWeb
Bluesky: LQSomos; Twitter: @LQSomos Facebook: LoQueSomos
Instagram: LoQueSomos WhatsApp: LoQueSomos;
Como paciente desde 2017 de un ictus y por ello usando cotidianamente varios medicamentos, registro que el problema de limitaciones y errores de diagnóstico y tratamiento, empezó mucho antes de que la IA estuviese en uso generalizado. El recurso a la » ficha informática» en todos los niveles médicos ( desde atención primaria) ha obviado la investigación responsable sobre
las » contraindicaciones». Los prospectos de «información al paciente» son imprecisos y con frecuencia engañosos. Basta con buscar información sobre un medicamento muy habitual como Atorvastatina 40mg. de Combix S. L. U para encontrar en su composición el muy dudoso polisorbato 80 (por sus múltiples efectos secundarios negativos)… Otros laboratorios no lo utilizan, pero: el paciente está falto de criterios, el médico tiene » prisa», la farmacia es fundamentalmente un negocio… Y las corporaciones Big Pharma son multinacionales con inmensos tentáculos al servicio del dinero y sus accionistas.
Las supervisiones de la OMS y sus delegaciones Agencias del Medicamento necesitan profunda reestructuración para superar el actual estadio de estructuras burocráticas sin medios propios de investigación y contraste.
Lamentables antecedentes que se agravan por el uso internacional – sin control social ni profesional- de la IA en diagnóstico y tratamiento.
El artículo publicado es muy útil para abrir vias de vindicación y también de autodefensa.