IA y deontología médica

• Un Documento de Posición del CCMC plantea los diez grandes retos éticos que hay que abordar para asegurar que el uso de la IA en medicina sirva al bien común y refuerce los valores de la profesión.
• Las comisiones de deontología de los cuatro colegios de médicos catalanes plantean en un nuevo Documento de Posición diez grandes retos éticos que deben abordarse para asegurar que el uso de la IA en medicina sirva al bien común y refuerce los valores de la profesión. La presidenta de la Comisión de Deontología del Consejo de Colegios de Médicos de Cataluña (CCMC), Montse Esquerda, presentó el documento el pasado 17 de junio en la sede del CoMB. 

El sector sanitario está inmerso en una profunda transformación motivada por la integración de tecnologías emergentes, como la inteligencia artificial (IA), la medicina de precisión, la salud digital, la robótica, la bioinformática y la gestión masiva de datos clínicos. Este conjunto de herramientas no sólo incrementa la capacidad técnica de los sistemas de salud, sino que cambia la forma en que se genera, se interpreta y se aplica el conocimiento médico.

Esta realidad tecnológica obliga a reflexionar sobre el impacto de la IA en el acto médico y en los principios éticos y deontológicos que lo fundamentan. Con este objetivo, el Consejo de Colegios de Médicos de Cataluña (CCMC) publica y pone al alcance de los profesionales el Documento de Posición Recomendaciones deontológicas sobre el uso de la inteligencia artificial en medicina, elaborado con la colaboración del Grupo Interdisciplinario de Profesionales vinculados a la Salud (GIPS), vinculado también al CCMC. El equipo redactor también ha confeccionado un decálogo a modo de resumen de estas recomendaciones.

Tal y como destacó Montse Esquerda durante el acto de presentación, este documento va más allá de exponer todo lo que puede hacer la IA y plantea a los profesionales ya la sociedad en general un interrogante clave: cómo queremos que se utilice esta tecnología y, sobre todo, con qué valores. Esquerda insistió en que la IA no puede sustituir la responsabilidad, el criterio clínico ni el compromiso de los profesionales, pero recordó que, incluso si se aplica de la mejor manera posible, “esta tecnología cambiará de forma radical la práctica médica, el rol del profesional y la interacción con el paciente”.

El Documento de Posición desarrolla ideas y conceptos clave, como el hecho de que la IA sea una herramienta de “competencia sin comprensión real”. Esquerda recordó que la mayoría de los modelos actuales de IA se basan en correlaciones y “correlación no es causalidad”, puntualizó. En medicina, entender las causas de un fenómeno resulta esencial para orientar diagnósticos y tratamientos. Por tanto, los médicos “tendremos que seguir buscando estas causas”, añadió. 

Desafíos con claras repercusiones éticas y deontológicas como los de la confidencialidad y la protección de los datos; la introducción de sesgos a través de la IA que pueden generar nuevas inequidades; el riesgo de sobrediagnóstico y sobretratamiento o el de la pérdida de habilidades y competencias esenciales por parte de los profesionales, son los puntos centrales de este nuevo y necesario documento de posición, que aporta reflexión y propuestas en forma de recomendaciones para cada uno de los diez grandes retos planteados.

Ante un paciente que llega a la consulta con un diagnóstico diferencial obtenido a través de la IA, “tendremos más criterio clínico, no menos”, afirmó Esquerda. La presidenta de la Comisión de Deontología del CCMC también apostó por un uso de la IA que libere tiempo para destinarle a la relación con el paciente ya la toma de decisiones compartida. “Sabemos por experiencia que no siempre es así y que a menudo la introducción de una nueva tecnología nos acaba suponiendo una nueva carga”, alertó.

Las recomendaciones recogidas por el equipo redactor del documento ponen énfasis en la necesidad de hacer un uso crítico de la IA y siempre con un grado de supervisión proporcional a la experiencia del profesional. También se insiste en la incorporación de sistemas que sean auditables y evaluables de forma continua. Otro punto clave es la importancia de garantizar modelos en los que el reparto de responsabilidades entre profesional, desarrollador e institución está claro y bien definido y en el que la responsabilidad de las decisiones asistenciales recae en el médico.

Decálogo de recomendaciones deontológicas sobre el uso de la inteligencia artificial (IA) en medicina

1. Confidencialidad

• Hay que garantizar que cualquier uso de IA en salud preserve estrictamente la confidencialidad, utilizando sólo los datos necesarios y aplicando medidas robustas de anonimización, pseudonimización y seguridad. Es necesario asegurar la trazabilidad de los accesos a la información clínica y evitar cualquier uso no autorizado o fuera de entornos seguros, auditables y aprobados institucionalmente.

2. Toma de decisiones compartida y autonomía profesional

• El uso de herramientas de IA debe ir acompañado de una explicación clara, comprensible y contextualizada para que el paciente pueda participar de forma informada en las decisiones sobre su salud.
• El profesional debe mantener el criterio clínico como eje de la deliberación, interpretando las recomendaciones algorítmicas y evitando que sean asumidas de forma automática o sustituyan la autonomía del paciente.

3. Transparencia y explicabilidad

• Hay que priorizar sistemas de IA transparentes, explicables y trazables que permitan al profesional verificar los resultados y justificar las decisiones clínicas.
• El médico debe mantener siempre una actitud crítica, contrastar las recomendaciones algorítmicas y adaptarlas al contexto ya las necesidades de cada paciente. Sin embargo, es necesario establecer mecanismos de evaluación y auditoría continuada para detectar errores, sesgos o desviaciones en la práctica clínica real.

4. Participación y responsabilidad del médico en la integración de la IA en la asistencia sanitaria

• La incorporación de la IA a la asistencia no diluye la responsabilidad profesional del médico, que sigue siendo quien debe validar, contextualizar y asumir las decisiones clínicas finales. 
• La evaluación de la IA en salud debe entenderse como un proceso continuo de revisión, auditoría y mejora y no como la simple validación inicial de un producto cerrado.

5. Justicia y equidad

• La IA puede reproducir o amplificar desigualdades si los datos, criterios de diseño o procesos de implementación incorporan sesgos sociales, económicos, territoriales, de género, edad u origen. Por ello, es necesario evaluar la equidad de los sistemas antes y después de su implantación, asegurando su rendimiento en poblaciones diversas y promoviendo medidas que reduzcan la brecha digital.

6. No maleficencia y seguridad clínica

• Ningún sistema de IA debería introducirse en la práctica asistencial sin una validación clínica rigurosa, una supervisión profesional adecuada y mecanismos de detección de errores o efectos adversos.
• La seguridad del paciente exige que las recomendaciones algorítmicas sean interpretadas críticamente, especialmente cuando puedan estar descontextualizadas, no suficientemente validadas o situadas en zonas grises de regulación.

7. Humanización de la atención, confianza y preservación de la relación asistencial

• La IA debe estar al servicio de la relación clínica y no puede sustituir la escucha, la empatía, el diálogo y la confianza que fundamentan una atención centrada en la persona.
• Su integración debería liberar tiempo clínico y reducir cargas administrativas, pero es necesario evaluar de forma continuada si realmente mejora la comunicación, la proximidad y la experiencia del paciente.

8. Criterio y juicio clínico en IA

• El médico debe disponer de la formación y la experiencia necesarias para valorar si una recomendación de IA es razonable, necesita revisión o debe ser descartada.
• El juicio clínico sigue siendo esencial para evitar dependencias acríticas, sobrediagnóstico, sobretratamiento o intervenciones desproporcionadas derivadas de alertas y predicciones algorítmicas.

9. Mantenimiento de competencias profesionales esenciales y prevención de su pérdida

• La automatización no puede comportar la pérdida de competencias nucleares como el razonamiento diagnóstico, la interpretación clínica, la comunicación, la toma de decisiones en incertidumbre o las habilidades procedimentales y quirúrgicas.
• Hacen falta programas de formación, simulación y supervisión que eviten el deskilling, el never-skilling y el mis-skilling, manteniendo el protagonismo humano en las fases críticas de la atención.

10. Integridad científica y educación profesional

• El uso de IA en investigación y docencia debe respetar criterios de autoría, transparencia, verificación y responsabilidad, evitando el plagio, la manipulación de contenidos o la difusión de información no contrastada.
• La formación obligatoria y continuada en IA debe incluir competencias técnicas, éticas y de pensamiento crítico para que los profesionales puedan utilizar estas herramientas de forma segura y clínicamente adecuada.

 

Vídeo del acto de presentación del Documento de Posición del CCMC