Inteligența artificială a companiei Anthropic, cunoscută sub numele de Claude, a făcut un pas înainte în ceea ce privește transparența conținutului. Compania a anunțat că toate modelele lansate începând cu 2 august vor încorpora un sistem de marcare invizibil în textul pe care îl generează. Această măsură, care va fi implementată la nivel global, își propune să se alinieze cu cerințele Uniunii Europene privind identificarea conținutului sintetic.
Obiectivul principal este ca orice text produs de Claude să fie identificabil ca atare, fără ca utilizatorul să observe vreo diferență de calitate sau lizibilitate. Filigranul nu este vizibil cu ochiul liber, ci rămâne încorporat în text chiar și atunci când este copiat și lipit pe alte platforme. Această inițiativă răspunde Codului de bune practici privind transparența conținutului generat de inteligența artificială, semnat de peste 190 de organizații, și Legii UE privind inteligența artificială, care, din august, impune filigranul acestui tip de conținut.
Decizia Anthropic nu este o coincidență. Reglementările europene impun companiilor de inteligență artificială să eticheteze conținutul sintetic, astfel încât utilizatorii să îl poată distinge de conținutul creat de oameni. Articolul 50.2 din Legea IA prevede că furnizorii trebuie să se asigure că rezultatele sistemelor lor sunt etichetate într-un format care poate fi citit de mașină. Anthropic, împreună cu alte companii tehnologice importante precum OpenAI, Google, Meta și Microsoft, a semnat acest cod de transparență, deși companii precum xAI a lui Elon Musk nu s-au alăturat încă.
Compania a explicat că filigranul se realizează în două moduri: pentru imagini și grafică se utilizează metadate bazate pe standardul C2PA (Coalition for Content Provenance and Authenticity); pentru text se folosește un filigran invizibil, integrat în procesul de generare. Acest filigran nu modifică semnificația sau calitatea răspunsurilor și este transmis împreună cu textul atunci când acesta este copiat, exportat sau partajat prin intermediul unei API.
Sistemul se bazează pe secvența de token-uri generate de model. În loc să adauge caractere ascunse sau metadate vizibile, filigranul este codificat în alegerea cuvintelor atunci când sunt disponibile mai multe opțiuni la fel de valide. De exemplu, având în vedere sintagma „cerul era…”, modelul ar putea alege „înnorat” sau „gri”. În cazul filigranului, această alegere nu este aleatorie, ci depinde mai degrabă de o cheie criptografică și de cuvintele precedente. Astfel, oricine posedă cheia poate determina statistic dacă textul a fost generat de Claude.
Această metodă, deja utilizată în alte sisteme precum SynthID de la Google, nu adaugă nici costuri, nici latență procesului. Detectarea filigranului nu este infailibilă : dacă textul este editat, parafrazat, tradus sau amestecat cu alt conținut, filigranul poate dispărea. În plus, semnalul este mai slab în fragmente foarte scurte sau în cod. Anthropic recunoaște că absența unui filigran nu înseamnă că respectivul conținut nu a fost generat de inteligența artificială și că prezența unui filigran nu este concludentă în ceea ce privește autorul real.
Compania a specificat că filigranul se aplică tuturor modelelor lansate începând cu 2 august și că modelele anterioare vor primi actualizarea treptat. Măsura este globală, nu doar pentru Europa , și afectează toate produsele Claude, inclusiv API-ul, Claude Code, Claude Cowork și platforme terțe precum AWS infrastructure , Google Cloud și Microsoft Foundry. Cu toate acestea, detectarea publică nu este încă disponibilă: Anthropic a anunțat că va lansa un instrument în câteva săptămâni, astfel încât utilizatorii și terții să poată verifica dacă un text conține filigranul.
O altă limitare semnificativă este faptul că filigranul nu identifică utilizatorul sau conversația originală. De asemenea, nu reușește să distingă dacă textul a fost creat de la zero sau dacă Claude a ajutat pur și simplu la corectarea, traducerea sau rezumarea conținutului existent. Acest lucru a atras critici, deoarece reglementările europene exclud în mod explicit sarcinile standard de editare, însă Anthropic aplică filigranul tuturor utilizărilor. În ciuda acestor deficiențe, măsura reprezintă un progres în lupta împotriva dezinformării și a utilizării abuzive a inteligenței artificiale.
Decizia Anthropic face parte dintr-o mișcare mai amplă din industrie. OpenAI, Google, Meta, Microsoft și Mistral au semnat, de asemenea, Codul de Transparență și implementează sisteme similare. Cu toate acestea, lipsa unui standard unificat și limitările tehnice înseamnă că detectarea nu este perfectă. De exemplu, realizarea unei capturi de ecran a unei imagini poate elimina metadatele C2PA, iar rescrierea completă a textului poate șterge filigranul.
În mediile educaționale și profesionale, aceste instrumente de etichetare ar putea fi utile pentru identificarea lucrărilor generate de inteligența artificială, însă experții avertizează că acestea nu reprezintă o soluție definitivă. Anthropic însuși subliniază faptul că eticheta nu este o dovadă a autorului, ci mai degrabă o indicație a probabilității. Pe măsură ce tehnologia evoluează, vom vedea probabil sisteme mai robuste, dar, deocamdată, transparența rămâne o provocare.
Pe scurt, adăugarea filigranelor invizibile în Claude reprezintă un pas important către respectarea reglementărilor europene și furnizarea utilizatorilor a mai multor informații despre originea conținutului. Deși sistemul are limitări, este un pas semnificativ în direcția corectă. Comunitatea tehnologică va urmări cu atenție instrumentul de detectare pe care Anthropic promite să-l lanseze în curând, precum și modul în care alte companii se adaptează la această nouă realitate.