Claude će stavljati nevidljive vodene žigove na AI tekst i slike, internet nije oduševljen

Negativne reakcije na plan Anthropica da počne da ugrađuje nevidljive vodene žigove u tekstove i slike koje generiše AI model Claude pojačale su se u utorak, dok su korisnici kritikovali ideju da upotreba vještačke inteligencije može biti otkrivena u njihovom radu.

Nova politika, kojom se Anthropic usklađuje sa propisima Evropske unije, objavljena je u utorak i predviđa ugrađivanje vodenih žigova u sadržaj koji kreira Claude.

Tekst koji generiše Claude imaće nevidljivi vodeni žig koji će „putovati sa tekstom kada se kopira i prenese na drugo mjesto“, dok će drugi fajlovi koje AI kreira, uključujući slike, sadržati digitalno potpisane metapodatke.

Kako će to tačno izgledati u praksi tek treba da se vidi. Anthropic je saopštio da će objaviti više informacija o tome kako prepoznati vodene žigove, ali je upozorio da sistem neće biti nepogrešiv.

Vodeni žigovi u tekstu mogu nestati ako se sadržaj značajno izmijeni, dok metapodaci fajla mogu biti izgubljeni ukoliko se promijeni format, napravi screenshot ili na neki drugi način obradi sadržaj.

Nova politika, od koje korisnici neće moći da odustanu, odnosiće se na sve Claude modele i proizvode širom svijeta, uključujući Claude Code i Claude Cowork.

Plan je brzo izazvao negativne reakcije na platformama X i Reddit, gdje su ga korisnici nazvali „glupošću“ i „veoma problematičnim“, dok su neki proglasili kraj „ere u kojoj nije moguće dokazati da je tekst napisala AI“.

Najviše prigovora stiglo je od ljudi koji tvrde da Cloude koriste samo za lekturu i korekturu tekstova koje su sami napisali, kao i od programera koji strahuju da bi dodavanje kriptografskog potpisa u kod moglo „pogoršati rezultat“.

„Prestao sam da koristim Grammarly i prešao na Cloude za lekturu jer to radi bolje“, objavio je na mreži X radijski voditelj i bloger Erick Erickson.

„Ali sada će ono što sam ja napisao imati vodeni žig koji sugeriše da je Kloude uradio posao. Ovo je besmisleno.“

Kome treba idu zasluge za AI sadržaj

Objava nove politike pokrenula je i internet debatu o tome kome treba pripisati autorstvo za rad koji generiše vještačka inteligencija, mašini koja ga je proizvela ili osobi koja joj je dala instrukcije.

Jedan korisnik Reddita pokrenuo je žustru raspravu tvrdeći da ljudski korisnici treba da dobiju zasluge za sadržaj koji generiše AI model, a ne sama mašina.

„Ja sam dao instrukcije, kontekst, donosio odluke i pravio bezbroj dorada. Cloude je bio alat“, naveo je.

Oni koji se nisu složili odgovorili su da vodeni žig ne znači da Cloude „uzima zasluge, već samo potvrđuje da je sadržaj kreirala AI“.

Drugi su tvrdili da je neetično ne navesti učešće vještačke inteligencije.

„Cloude je napravio rad, a SVE što ste vi uradili bilo je da date instrukcije. Ako bi vam nadređeni dao instrukcije za projekat, a nakon što ga završite preuzeo 100 posto zasluga, vjerovatno biste bili opravdano ljuti. Zašto? Zato što je nadređeni samo dao instrukcije, a vi ste primijenili svoje znanje i stručnost i uradili programiranje“, napisao je jedan komentator.

Ključna pozadina

Nova politika usklađuje Anthropic sa pravilima Evropske unije poznatim kao „Kodeks prakse o transparentnosti sadržaja generisanog vještačkom inteligencijom“ (Code of Practice on Transparency of AI-Generated Content).

Kodeks propisuje pravila za označavanje i prepoznavanje sadržaja koji generiše ili mijenja AI, kao i za obilježavanje deepfake sadržaja i drugih tekstova koje je generisala ili izmijenila vještačka inteligencija.

Do kraja jula gotovo 200 kompanija potpisalo je kodeks i pristalo da ga poštuje, među njima Anthropic, Meta, Microsoft i OpenAI.

Google još od 2023. stavlja vodene žigove na slike generisane vještačkom inteligencijom, a tu praksu je u međuvremenu proširio i na tekst, audio i video sadržaj. OpenAI takođe koristi nevidljive vodene žigove za slike.

Iznenađujuća činjenica

OpenAI već dugo posjeduje tehnologiju za stavljanje vodenih žigova na tekst koji generišu modeli poput ChatGPT, ali je odlučio da je za sada ne uvede.

Unutrašnja rasprava o tome da li tu tehnologiju treba koristiti traje godinama, objavio je Wall Street Journal. Za sada su prevagnuli argumenti o mogućim lažno pozitivnim rezultatima, lakoći zaobilaženja sistema i bojazni da bi takva mjera mogla otjerati korisnike konkurenciji.

Mary Whitfill Roeloffs, Forbes

Claude Will Put Invisible Watermarks On AI Text And Images—And The Internet Isn’t Happy