Comisia Europeană stabilește reguli pentru etichetarea conținutului generat de AI
Comisia Europeană a anunțat miercuri finalizarea Codului de bune practici pentru transparența conținutului creat de inteligența artificială. Acest document oferă îndrumări cu privire la obligațiile ce trebuie respectate de companii, platforme și operatori de sisteme AI, conform AI Act, regulamentul european dedicat inteligenței artificiale.
Noile reglementări vor intra în vigoare pe 2 august 2026 și se concentrează pe etichetarea imaginilor, videoclipurilor, înregistrărilor audio și textelor generate sau modificate prin inteligența artificială. Utilizatorii vor fi informați atunci când interacționează cu un chatbot, când observă un deepfake sau când citesc un text generat automat referitor la subiecte de interes public. Comisia Europeană subliniază că aceste reguli sunt esențiale, având în vedere dificultățile crescânde ale utilizatorilor de a distinge între conținutul creat de oameni și cel generat artificial.
Riscurile identificate includ dezinformarea, manipularea la scară largă, fraudele, impersonarea persoanelor reale și inducerea în eroare a consumatorilor. „Europenii au dreptul să știe dacă ceea ce văd, aud sau citesc a fost făcut sau modificat de IA, în special atunci când un astfel de conținut poate influența dezbaterea publică. Transparența este modul în care protejăm încrederea. Prezentul Cod de bune practici oferă furnizorilor și implementatorilor de IA o modalitate clară și practică de a eticheta conținutul generat de IA și deepfake-urile, în conformitate cu normele Regulamentului privind IA, care se vor aplica de la 2 august. Îi invit să adere la cod și să demonstreze un spirit de lider în dezvoltarea și implementarea unei IA responsabile și de încredere”, a declarat Henna Virkkunen, vicepreședintă executivă a Comisiei Europene pentru suveranitate tehnologică, securitate și democrație.
Codul a fost redactat de o echipă de șase experți independenți, cu contribuții din partea a peste 180 de părți interesate, inclusiv furnizori de sisteme AI, operatori, IMM-uri, academia, instituții publice și organizații ale societății civile. Printre autori se numără și profesoara româncă Mădălina Botan, de la SNSPA, care a fost vicepreședintă a unuia dintre grupurile de lucru implicate în crearea Codului.
Una dintre cele mai evidente schimbări pentru utilizatori va fi introducerea etichetelor clare pentru conținutul generat sau modificat prin inteligența artificială. Deepfake-urile vor fi marcate corespunzător, iar imaginile, videoclipurile și materialele audio generate artificial vor trebui să fie identificabile. De asemenea, textele publicate pe teme de interes public, generate sau manipulate de AI, vor necesita o etichetare clară, în special în absența unei revizuiri umane sau a unui control editorial.
Astfel, un material video care imită o persoană reală, o imagine creată artificial, o înregistrare audio generată cu voce sintetică sau un text automat despre subiecte precum alegeri, sănătate sau economie vor trebui semnalate, pentru a clarifica utilizatorului că materialul nu este autentic. În ceea ce privește chatbot-urile și sistemele interactive, utilizatorii vor fi informați de la început că interacționează cu o inteligență artificială, nu cu o persoană reală.
Codul specifică faptul că furnizorii de sisteme AI generative trebuie să implementeze soluții de marcare ce pot fi citite automat. Așadar, conținutul generat sau modificat de AI va trebui să conțină semnale tehnice care să permită identificarea sa ca fiind artificial. Aceste marcaje pot include metadate, watermark-uri invizibile, semnături digitale sau alte soluții tehnice care să indice faptul că materialul a fost creat sau modificat prin inteligența artificială.
Documentul subliniază că, în multe cazuri, o singură metodă de marcare nu este suficientă. De aceea, Codul recomandă utilizarea unei combinații de soluții tehnice, pentru a asigura eficiența și fiabilitatea marcajelor. Scopul este ca un conținut generat de AI să rămână identificabil, chiar și în cazul redistribuirii, comprimării, modificării sau publicării sale pe diferite platforme.
Pentru imaginile și videoclipurile generate, marcajele pot fi integrate fie direct în fișier, fie în metadatele acestuia. În ceea ce privește materialele audio, pot fi utilizate soluții similare, adaptate la formatul sonor. Situația este mai complexă în cazul textelor, deoarece textul simplu nu poate păstra metadate ca o imagine sau un videoclip. Documentul discută despre soluții speciale pentru marcare în cazul textelor generate automat.
Codul nu se limitează doar la obligația de a marca materialele generate de AI, ci și la necesitatea ca furnizorii să ofere soluții de detecție, astfel încât marcajele să poată fi verificate. Aceste soluții pot include specificații publice, programe software, biblioteci tehnice sau servicii cloud accesibile prin API. Scopul este ca utilizatorii, platformele, cercetătorii, jurnaliștii, autoritățile sau alte părți interesate să poată verifica dacă un conținut a fost produs sau manipulat de un anumit sistem AI.
Rezultatul verificării trebuie să fie clar și ușor de înțeles. Nu este suficient ca sistemul să detecteze tehnic marcajul; informația trebuie să fie prezentată astfel încât utilizatorul să înțeleagă dacă materialul este generat de AI, modificat de AI sau autentic. Documentul stipulează că aceste mecanisme trebuie testate, monitorizate și actualizate periodic, pentru a rămâne eficiente în fața tehnologiilor în continuă evoluție.
Ghidul prevede, de asemenea, utilizarea unor iconițe europene comune pentru marcarea conținutului generat sau modificat de AI. Vor fi disponibile iconițe distincte pentru conținutul complet generat de inteligența artificială și pentru cel parțial modificat cu AI. Variantele propuse includ etichete precum „AI GENERATED” și „AI MODIFIED”, astfel încât utilizatorii să poată înțelege rapid natura materialului.
Aceste iconițe sunt concepute pentru a fi ușor observabile, intuitive și utilizabile pe diverse platforme. Comisia Europeană a menționat că designul acestora a fost testat în mai multe state membre, iar variantele cu text explicit au fost considerate mai clare pentru utilizatori.
O regulă esențială din Cod este ca eticheta să fie afișată cel târziu în momentul în care utilizatorul vizualizează sau aude pentru prima dată conținutul respectiv. Astfel, avertismentul nu ar trebui să fie ascuns într-un meniu, într-o pagină separată sau într-un text greu de găsit. Eticheta trebuie să fie vizibilă imediat, fără ca utilizatorul să fie nevoit să caute explicații suplimentare.
Pentru conținutul vizual, se recomandă ca eticheta să fie plasată într-un loc ușor de observat, cum ar fi un colț al imaginii sau al videoclipului, fără a fi acoperită de alte elemente grafice. De asemenea, ea trebuie să rămână vizibilă un timp suficient pentru a putea fi observată. Documentul subliniază că etichetarea trebuie să fie accesibilă și pentru persoanele cu dizabilități, copii sau vârstnici. În cazul conținutului audio, urmează să fie dezvoltate soluții specifice, inclusiv o variantă de icon dedicată materialelor sonore.
Furnizorii de sisteme AI generative au ca obligație principală marcarea automată a conținutului produs sau modificat de sistemele lor. Această marcare trebuie să fie detectabilă automat și suficient de rezistentă pentru a nu dispărea imediat după modificări minore ale fișierului. Furnizorii trebuie să se
