IA i deontologia mèdica

• Un Document de Posició del CCMC planteja els deu grans reptes ètics que cal abordar per assegurar que l’ús de la IA en medicina serveixi al bé comú i reforci els valors de la professió.
• Les comissions de deontologia dels quatre col·legis de metges catalans plantegen en un nou Document de Posició deu grans reptes ètics que cal abordar per assegurar que l’ús de la IA en medicina serveixi al bé comú i reforci els valors de la professió. La presidenta de la Comissió de Deontologia del Consell de Col·legis de Metges de Catalunya (CCMC), Montse Esquerda, va presentar el document el passat 17 de juny a la seu del CoMB. 

El sector sanitari està immers en una transformació profunda motivada per la integració de tecnologies emergents, com la intel·ligència artificial (IA), la medicina de precisió, la salut digital, la robòtica, la bioinformàtica i la gestió massiva de dades clíniques. Aquest conjunt d’eines no només incrementa la capacitat tècnica dels sistemes de salut, sinó que canvia la manera com es genera, s’interpreta i s’aplica el coneixement mèdic.

Aquesta realitat tecnològica obliga a reflexionar sobre l’impacte de la IA en l’acte mèdic i en els principis ètics i deontològics que el fonamenten. Amb aquest objectiu, el Consell de Col·legis de Metges de Catalunya (CCMC) publica i posa a l’abast dels professionals el Document de Posició Recomanacions deontològiques sobre l’ús de la intel·ligència artificial en medicina, elaborat amb la col·laboració del Grup Interdisciplinari de Professionals vinculats amb la Salut (GIPS), vinculat també al CCMC. L’equip redactor també ha confeccionat un decàleg a manera de resum d’aquestes recomanacions.

Tal com va destacar Montse Esquerda durant l’acte de presentació, aquest document va més enllà d’exposar tot allò que pot fer la IA i planteja als professionals i a la societat en general un interrogant clau: com volem que s’utilitzi aquesta tecnologia i, sobretot, amb quins valors. Esquerda va insistir en la idea que la IA no pot substituir la responsabilitat, el criteri clínic ni el compromís dels professionals, però va recordar que, fins i tot si s’aplica de la millor manera possible, “aquesta tecnologia canviarà de manera radical la pràctica mèdica, el rol del professional i la interacció amb el pacient”.

El Document de Posició desenvolupa idees i conceptes clau, com ara el fet que la IA sigui una eina de “competència sense comprensió real”. Esquerda va recordar que la majoria de models actuals d’IA es basen en correlacions i “correlació no és causalitat”, va puntualitzar. En medicina, entendre les causes d’un fenomen és essencial per orientar diagnòstics i tractaments. Per tant, els metges “haurem de seguir buscant aquestes causes”, va afegir. 

Desafiaments amb clares repercussions ètiques i deontològiques com ara els de la confidencialitat i la protecció de les dades; la introducció de biaixos a través de la IA que poden generar noves inequitats; el risc de sobrediagnòstic i sobretractament o el de la pèrdua d’habilitats i competències essencials per part dels professionals, són els punts centrals d’aquest nou i necessari document de posició, que aporta reflexió i propostes en forma de recomanacions per a cadascun dels deu grans reptes plantejats. 

Davant d’un pacient que arriba a la consulta amb un diagnòstic diferencial obtingut a través de la IA, “ens caldrà més criteri clínic, no pas menys”, va afirmar Esquerda. La presidenta de la Comissió de Deontologia del CCMC també va apostar per un ús de la IA que alliberi temps per destinar-lo a la relació amb el pacient i a la presa de decisions compartida. “Sabem per experiència que no sempre és així i que sovint la introducció d’una nova tecnologia ens acaba suposant una nova càrrega”, va alertar.

Les recomanacions recollides per l’equip redactor del document posen èmfasi en la necessitat de fer un ús crític de la IA i sempre amb un grau de supervisió proporcional a l’experiència del professional. També s’insisteix en la incorporació de sistemes que siguin auditables i avaluables de manera contínua. Un altre punt clau és la importància de garantir models en què el repartiment de responsabilitats entre professional, desenvolupador i institució està clar i ben definit i en el qual la responsabilitat de les decisions assistencials recau en el metge.

Decàleg de recomanacions deontològiques sobre l’ús de la intel·ligència artificial (IA) en medicina

1. Confidencialitat

• Cal garantir que qualsevol ús d’IA en salut preservi estrictament la confidencialitat, utilitzant només les dades necessàries i aplicant mesures robustes d’anonimització, pseudonimització i seguretat. Cal assegurar la traçabilitat dels accessos a la informació clínica i evitar qualsevol ús no autoritzat o fora d’entorns segurs, auditables i aprovats institucionalment.

2. Presa de decisions compartida i autonomia professional

• L’ús d’eines d’IA ha d’anar acompanyat d’una explicació clara, comprensible i contextualitzada perquè el pacient pugui participar de manera informada en les decisions sobre la seva salut.
• El professional ha de mantenir el criteri clínic com a eix de la deliberació, interpretant les recomanacions algorítmiques i evitant que siguin assumides de manera automàtica o substitueixin l’autonomia del pacient.

3. Transparència i explicabilitat

• Cal prioritzar sistemes d’IA transparents, explicables i traçables que permetin al professional verificar els resultats i justificar les decisions clíniques.
• El metge ha de mantenir sempre una actitud crítica, contrastar les recomanacions algorítmiques i adaptar-les al context i a les necessitats de cada pacient. Tanmateix, cal establir mecanismes d’avaluació i auditoria continuada per detectar errors, biaixos o desviacions en la pràctica clínica real.

4. Participació i responsabilitat del metge en la integració de la IA en l’assistència sanitària

• La incorporació de la IA a l’assistència no dilueix la responsabilitat professional del metge, que continua sent qui ha de validar, contextualitzar i assumir les decisions clíniques finals. 
• L’avaluació de la IA en salut s’ha d’entendre com un procés continu de revisió, auditoria i millora i no com la simple validació inicial d’un producte tancat.

5. Justícia i equitat

• La IA pot reproduir o amplificar desigualtats si les dades, els criteris de disseny o els processos d’implementació incorporen biaixos socials, econòmics, territorials, de gènere, edat o origen. Per això, cal avaluar l’equitat dels sistemes abans i després de la seva implantació, assegurant-ne el rendiment en poblacions diverses i promovent mesures que redueixin la bretxa digital.

6. No maleficència i seguretat clínica

• Cap sistema d’IA s’hauria d’introduir en la pràctica assistencial sense una validació clínica rigorosa, una supervisió professional adequada i mecanismes de detecció d’errors o efectes adversos.
• La seguretat del pacient exigeix que les recomanacions algorítmiques siguin interpretades críticament, especialment quan puguin estar descontextualitzades, no prou validades o situades en zones grises de regulació.

7. Humanització de l’atenció, confiança i preservació de la relació assistencial

• La IA ha d’estar al servei de la relació clínica i no pot substituir l’escolta, l’empatia, el diàleg i la confiança que fonamenten una atenció centrada en la persona.
• La seva integració hauria d’alliberar temps clínic i reduir càrregues administratives, però cal avaluar de manera continuada si realment millora la comunicació, la proximitat i l’experiència del pacient.

8. Criteri i judici clínic en IA

• El metge ha de disposar de la formació i l’experiència necessàries per valorar si una recomanació d’IA és raonable, necessita revisió o ha de ser descartada.
• El judici clínic continua sent essencial per evitar dependències acrítiques, sobrediagnòstic, sobretractament o intervencions desproporcionades derivades d’alertes i prediccions algorítmiques.

9. Manteniment de competències professionals essencials i prevenció de la seva pèrdua

• L’automatització no pot comportar la pèrdua de competències nuclears com el raonament diagnòstic, la interpretació clínica, la comunicació, la presa de decisions en incertesa o les habilitats procedimentals i quirúrgiques.
• Calen programes de formació, simulació i supervisió que evitin el deskilling, el never-skilling i el mis-skilling, mantenint el protagonisme humà en les fases crítiques de l’atenció.

10. Integritat científica i educació professional

• L’ús d’IA en recerca i docència ha de respectar criteris d’autoria, transparència, verificació i responsabilitat, evitant el plagi, la manipulació de continguts o la difusió d’informació no contrastada.
• La formació obligatòria i continuada en IA ha d’incloure competències tècniques, ètiques i de pensament crític perquè els professionals puguin utilitzar aquestes eines de manera segura i clínicament adequada.

 

Vídeo de l’acte de presentació del Document de Posició del CCMC