Transparència en l’era de la IA: el que exigeix l’article 50 de l’AI Act

El Reglament (UE) 2024/1689 sobre la intel·ligència artificial marca un abans i un després en la governança tecnològica europea. L’article 50, inclòs al Capítol IV del reglament, estableix obligacions de transparència per als sistemes d’IA que interactuen amb persones o generen contingut.

Quines són les obligacions que marca la llei? Quins sistemes d’IA estan subjectes a aquestes obligacions? Al llarg d’aquest article t’explicarem tots els detalls sobre el reglament, la seva rellevància per a les empreses i les seves exigències.

Tipus de sistemes regulats per l’article 50

La regulació busca garantir la màxima transparència cap als usuaris. En concret, la llei exigeix que siguin informats sempre que interactuïn amb una IA o consumeixin contingut generat per aquesta. Sobretot, amb un objectiu clar: protegir les persones davant la manipulació, l’engany i la desinformació.

L’article 50 s’aplica als següents tipus de sistemes d’IA:

• Els que interactuen directament amb persones, com ara xatbots d’atenció al client, assistents virtuals integrats en aplicacions o webs, i agents que responen preguntes.
• Els que generen contingut, com generadors de text que escriuen articles, creadors d’imatges o vídeos, o eines de clonació de veu.
• Els que reconeixen emocions o categoritzen dades biomètriques, com ara l’anàlisi d’expressions facials o del to de veu.
• Els que publiquen contingut informatiu generat per IA, com notícies, articles o informes creats per intel·ligència artificial.

A més, el reglament distingeix entre qui desenvolupa aquests sistemes (proveïdors) i qui els implementa (usuaris), establint obligacions específiques segons el rol.

També es contemplen excepcions: no s’exigeix transparència en sistemes autoritzats per llei per detectar delictes, ni en continguts artístics, satírics o amb revisió editorial humana.

Quins passos tècnics ha de seguir una empresa per complir amb l’AI Act?

A banda de la informació que s’ha de proporcionar als usuaris, les empreses tenen l’obligació de redissenyar alguns aspectes tècnics. Tot comença amb una auditoria exhaustiva per identificar els sistemes d’IA que té l’organització. És essencial l’actualització constant de la documentació interna i la coordinació entre departaments. Finalment, per tenir-ho tot sota control, és crucial una bona relació entre tecnologia, legal, compliance i comunicació.

T’expliquem pas a pas què ha de fer una empresa a nivell tècnic per complir amb la llei:

• Etiquetatge automàtic del contingut generat per IA. L’etiquetatge ha de ser persistent i mantenir-se fins i tot en exportar o compartir el contingut. A més, s’han d’utilitzar solucions tècniques efectives, interoperables, robustes i fiables, com marques d’aigua, metadades o etiquetes HTML, per facilitar la detecció per tercers com motors de cerca o plataformes socials.
• Missatges a l’usuari en les interfícies conversacionals. Els xatbots o assistents virtuals han d’informar clarament que es tracta d’una conversa amb IA. Aquest missatge s’ha de mostrar com a molt tard en la primera interacció, i no s’ha d’ometre ni eliminar sense justificació legal.
• Els formats han de ser llegibles per màquines. Per això, s’han d’utilitzar estàndards oberts com RDF, JSON-LD o etiquetes específiques en HTML. I assegurar la compatibilitat amb eines de verificació i sistemes de moderació.
• Revisió de logs. Els sistemes han de registrar qui genera el contingut, quan i amb quins paràmetres. També han de mantenir els logs accessibles i auditables.

Com s’ha de preparar una empresa per al compliment de l’AI Act el 2026?

A partir del 2 d’agost de 2026, el compliment de l’article 50 serà obligatori per a tots els sistemes d’IA que interactuïn amb persones o generin contingut. Les empreses hauran d’assegurar-se que aquests sistemes compleixen amb els requisits de transparència establerts pel reglament.

Per fer-ho, és imprescindible comptar amb protocols interns clars que garanteixin el compliment normatiu. Això inclou:

• Monitorització contínua dels sistemes d’IA en ús.
• Revisions periòdiques tant tècniques com legals.
• Auditories internes i externes que avaluïn el grau de compliment.
• Coordinació efectiva entre els equips de tecnologia, legal, compliance i comunicació.

A més, és important tenir en compte que aquestes obligacions no substitueixen altres normatives de transparència que puguin aplicar-se en paral·lel, com les relacionades amb la protecció de dades o els drets digitals.

L’objectiu és detectar possibles anomalies o riscos emergents i tenir la capacitat de respondre de forma immediata, minimitzant l’impacte legal, reputacional i operatiu.

Cal no oblidar que les empreses que no compleixin s’exposen a sancions econòmiques com ara:

• Multa de fins a 35 milions d’euros o el 7% del volum de negoci anual global per a aquelles que utilitzin sistemes d’IA prohibits.
• Multa de fins a 15 milions d’euros o el 3% del volum de negoci anual global, aplicable a proveïdors, distribuïdors, etc., per l’incompliment d’obligacions generals.
• Multa de fins a 7,5 milions d’euros o l’1% del volum de negoci anual global, per emetre informació incorrecta o enganyosa a les autoritats.

Si la teva empresa està explorant l’ús de la IA o ja la té integrada en els seus processos, et podem ajudar a convertir aquest repte normatiu en un avantatge competitiu. Contacta amb nosaltres, t’ajudarem.