Una aplicació que interpreta radiografies i una altra que proposa qualificacions escolars poden utilitzar intel·ligència artificial, però no comparteixen necessàriament la mateixa classificació legal. Tampoc no n'hi ha prou amb contractar un programa per traslladar totes les responsabilitats al fabricant.
El Reglament europeu d'intel·ligència artificial, conegut com a Reglament d'IA o AI Act, ja té disposicions aplicables el 2026. Altres obligacions específiques per als sistemes d'alt risc començaran més endavant. Per a clíniques mèdiques, dentals i centres educatius, el primer pas és identificar quines eines s'utilitzen, en quines decisions influeixen i quines dades personals tracten.
El Reglament (UE) 2024/1689, modificat el 2026, distingeix entre pràctiques prohibides, exigències generals i obligacions vinculades a determinades categories de sistemes.
Des del 2 de febrer de 2025 s'apliquen diverses prohibicions. Entre aquestes figura, amb excepcions específiques, l'ús de sistemes per inferir emocions de persones en centres educatius. També s'aplica l'article 4 sobre alfabetització en IA: els proveïdors i les entitats usuàries han d'adoptar mesures que afavoreixin la preparació de les persones que utilitzen aquests sistemes en nom seu.
La modificació introduïda pel Reglament (UE) 2026/1744 aclareix que no s'exigeix garantir un nivell concret de competència de cada treballador. Tampoc no estableix un curs oficial obligatori amb una durada uniforme.
El 2 d'agost de 2026 va començar l'aplicació general del Reglament, amb excepcions rellevants. Per tant, seria incorrecte afirmar que totes les obligacions relatives als sistemes d'alt risc ja són exigibles a qualsevol clínica o centre educatiu.
L'article 6 i els annexos I i III estableixen els criteris de classificació. La finalitat prevista, la funció real i, en determinats productes, el procediment d'avaluació de la conformitat són factors determinants.
En l'àmbit sanitari, determinats programes de diagnòstic es poden classificar com a sistemes d'alt risc quan siguin productes sanitaris, o components de seguretat d'aquests productes, subjectes a una avaluació de la conformitat per part d'un tercer. L'anàlisi s'ha de fer d'acord amb el Reglament d'IA i la normativa sectorial de productes sanitaris. Una eina de gestió d'agendes, transcripció administrativa o gestió de cites no adquireix aquesta classificació simplement perquè s'utilitzi en una consulta.
En l'àmbit educatiu, l'annex III preveu usos com determinar l'admissió d'alumnes, avaluar els resultats de l'aprenentatge, decidir el nivell educatiu adequat o vigilar comportaments prohibits durant els exàmens. L'article 6 estableix excepcions limitades per a alguns sistemes que no comporten un risc significatiu, però aquestes excepcions no s'apliquen quan els sistemes elaboren perfils de persones. La classificació exigeix examinar-ne l'ús concret.
Aquesta distinció també afecta els terminis. Les obligacions específiques dels sistemes d'alt risc de l'annex III s'aplicaran, amb caràcter general, a partir del 2 de desembre de 2027; les vinculades a l'annex I, a partir del 2 d'agost de 2028. L'ajornament no elimina les exigències de protecció de dades ni altres normes sectorials que ja són vigents.
El Reglament diferencia el proveïdor del sistema d'IA del responsable del desplegament, que l'utilitza sota la seva autoritat. No tenen obligacions idèntiques. Una clínica o un centre educatiu acostuma a actuar com a responsable del desplegament, tot i que determinades modificacions o comercialitzacions amb nom propi poden alterar aquesta condició.
Abans de contractar una eina, convé sol·licitar-ne la finalitat prevista, les instruccions d'ús, les limitacions conegudes, les mesures de supervisió i la documentació que correspongui segons la classificació del producte. En el cas d'un sistema d'alt risc, les obligacions d'utilització previstes a l'article 26 s'hauran de respectar quan siguin aplicables.
A més, cal analitzar qui decideix les finalitats i els mitjans del tractament de dades. Ser proveïdor d'IA no converteix automàticament una empresa en encarregada del tractament segons el RGPD. Si tracta dades per compte del centre, pot ser necessari un contracte conforme a l'article 28. Si decideix les seves pròpies finalitats, la relació jurídica pot ser diferent.
Una clàusula contractual tampoc no eximeix, per si sola, la direcció del centre de les seves obligacions legals.
La feina comença amb un inventari d'eines: sistemes diagnòstics, assistents de redacció, transcripció de sessions, plataformes d'avaluació i aplicacions d'anàlisi de l'aprenentatge. Cal indicar qui les utilitza, amb quina finalitat, quina informació reben i si generen resultats que influeixen en decisions sobre persones.
Després, correspon documentar la classificació de cada sistema. Convé evitar dos extrems: considerar d'alt risc qualsevol funció automatitzada o acceptar sense examinar-la la classificació comercial facilitada pel fabricant.
La protecció de dades exigeix una revisió independent, també mitjançant una consultoria especialitzada en protecció de dades. Si s'introdueixen historials clínics, qualificacions acadèmiques, enregistraments o dades de menors, cal comprovar la base jurídica, les finalitats, la minimització, les condicions del proveïdor, els accessos i les possibles transferències internacionals. El Reglament general de protecció de dades (RGPD) continua sent aplicable encara que els requisits d'alt risc del Reglament d'IA tinguin un termini posterior.
Quan el tractament pugui comportar un alt risc per als drets i les llibertats de les persones, serà necessària una avaluació d'impacte relativa a la protecció de dades (AIPD) prèvia. No s'exigeix automàticament una AIPD pel simple fet d'utilitzar qualsevol eina amb IA. La decisió s'ha de basar en el tractament i els seus riscos, d'acord amb l'article 35 del RGPD i els criteris de l'Agència Espanyola de Protecció de Dades (AEPD).
Finalment, el centre necessita normes d'ús comprensibles: quina informació es pot introduir, quins resultats s'han de contrastar, qui autoritza noves eines i com es comuniquen els errors o les incidències. La supervisió humana ha de ser efectiva i cal examinar l'article 22 del RGPD davant de decisions exclusivament automatitzades amb efectes significatius sobre pacients o alumnes.
No sense avaluar prèviament la finalitat i les condicions del tractament. Cal comprovar les garanties del proveïdor, la necessitat d'utilitzar dades identificables i les obligacions de confidencialitat. Fer servir un compte personal o eliminar el nom d'un document no garanteix, per si sol, que la informació sigui anònima.
L'ús d'IA, per si mateix, no crea una obligació universal de designar un delegat. Cal aplicar els articles 37 del RGPD i 34 de la LOPDGDD. Aquesta última estableix supòsits específics per a centres docents i centres sanitaris obligats a mantenir històries clíniques, amb les excepcions legals corresponents.
No existeix una obligació general, aplicable a tots els usuaris, d'auditar el codi de qualsevol eina d'IA. Sí que cal verificar les obligacions corresponents al paper de cada entitat, la classificació i l'ús previst. En els sistemes d'alt risc, la documentació del proveïdor i les mesures de supervisió adquireixen una importància especial.
L'adaptació s'ha de fer per etapes i amb responsabilitats definides. A Barcelona, Madrid o qualsevol altra comunitat autònoma, el marc europeu és comú, tot i que poden concórrer normes sanitàries i educatives addicionals.
SIBPRODASA ofereix serveis d'assessorament i adequació al RGPD per a organitzacions sanitàries i educatives, incloent-hi anàlisis de riscos, revisió contractual, procediments i formació. Si el teu centre està incorporant sistemes d'IA, consulta el seu servei d'implantació inicial i adequació a la normativa de protecció de dades per revisar les implicacions organitzatives i documentals del tractament d'informació personal.