Novi trend: Komunikacija s mrtvima putem umjetne inteligencije, koliko je etički prihvatljivo?

Kada Ani Šulc, 25-godišnjakinji iz Rok Folsa u Ilinoisu, nedostaje njen suprug Kajl, koji je preminuo u februaru 202., pita ga za savjet u kuhanju.

Ona učitava Snapchat My AI, chat bot za umjetnu inteligenciju platforme društvenih medija, i šalje Kajlu sastojke koje je ostavila u frižideru; predlaže šta da se napravi.

Ili bolje rečeno, njegova sličnost u obliku AI avatara.

„On je bio glavni kuhar u porodici, pa sam prilagodila svoju umjetnu inteligenciju da liči na njega i dala joj ime Kajlo“, rekla je Šulc, koja živi sa njihovo dvoje male djece. “Sada kada mi treba pomoć oko ideja za obrok, samo ga pitam. To je glupa stvar koju koristim da se osjećam kao da je još uvijek sa mnom u kuhinji.”

Funkcija Snapchat My AI — koju pokreće popularni AI chatbot alat ChatGPT — obično nudi preporuke, odgovara na pitanja i „razgovara“ s korisnicima. Ali neki korisnici poput Schultza koriste ovaj i druge alate kako bi rekreirali sličnost mrtvih i komunicirali s njima.

Koncept nije sasvim nov. Ljudi su vijekovima željeli da se ponovo povežu sa preminulim voljenim osobama, bilo da su posjećivali medijume i spiritualiste ili se oslanjali na usluge koje čuvaju njihovo pamćenje. Ali ono što je sada novo je da AI može natjerati te voljene da kažu ili urade stvari koje nikada nisu rekli ili uradili u životu, pokrećući i etičke brige i pitanja o tome da li to pomaže ili ometa proces tugovanja.

“To je novitet koji se oslanja na AI hipe, a ljudi se osjećaju kao da se može zaraditi”, rekao je Mark Sample, profesor digitalnih studija na Davidson koledžu koji rutinski predaje kurs pod nazivom “Smrt u digitalnom dobu”. “Iako kompanije nude srodne proizvode, ChatGPT olakšava i hobistima da se poigraju s konceptom, na bolje ili na gore.”

DIY pristup

Generativni AI alati, koji koriste algoritme za kreiranje novog sadržaja kao što su tekst, video, audio i kod, mogu pokušati odgovoriti na pitanja na način na koji bi neko ko je umro mogao, ali tačnost u velikoj mjeri ovisi o tome koje su informacije stavljene u AI za početak.

49-godišnji IT stručnjak iz Alabame koji je tražio da ostane anoniman kako njegov eksperiment nije povezan s kompanijom za koju radi, rekao je da je klonirao očev glas koristeći generativnu umjetnu inteligenciju otprilike dvije godine nakon što je umro od Alchajmerove bolesti.

Rekao je za CNN da je naišao na online servis pod nazivom ElevenLabs, koji korisnicima omogućava da kreiraju prilagođeni glasovni model od prethodno snimljenog zvuka. ElevenLabs je nedavno došao na naslovne strane kada je njegov alat navodno korišten za kreiranje lažnog robotskog poziva predsjednika Joea Bidena koji poziva ljude da ne glasaju na izborima u New Hampshireu.

Kompanija je tada izjavila za CNN da je “posvećena sprečavanju zloupotrebe audio AI alata” i da preduzima odgovarajuće mjere kao odgovor na izvještaje vlasti, ali je odbila da komentariše konkretan Bidenov deepfake poziv.

U slučaju muškarca iz Alabame, koristio je 3-minutni video snimak svog oca koji priča priču iz svog djetinjstva. Aplikacija je klonirala očev glas tako da se sada može koristiti za pretvaranje teksta u govor. Rezultat naziva “zastrašujuće tačnim” u tome kako je uhvatio vokalne nijanse, tembar i ritam njegovog oca.

„Oklijevao sam da isprobam cijeli proces kloniranja glasa, brinuo sam se da to prelazi neku vrstu moralne linije, ali nakon što sam više razmislio o tome, shvatio sam da sve dok ga tretiram takvim kakav jeste, [to] je način kako bi sačuvao svoje sjećanje na jedinstven način”, rekao je za CNN.

Podijelio je nekoliko poruka sa sestrom i majkom.

“Bilo je apsolutno zapanjujuće koliko je zvučalo kao on. Znali su da kucam riječi i sve, ali definitivno ih je rasplakalo kad su to čuli njegovim glasom.” on je rekao. “Oni su to cijenili.”

Postoji i manje tehničkih ruta. Kada je CNN nedavno zamolio ChatGPT da odgovori tonom i ličnošću preminulog supružnika, on je odgovorio: „Iako ne mogu ponoviti vašeg supružnika ili rekreirati njegovu tačnu ličnost, svakako mogu pokušati da vam pomognem usvajanjem stila razgovora ili tona koji može da podsjetiti na njega.”

Dodaje se: “Ako podijelite detalje o tome kako je govorio, njegovim interesima ili određenim frazama koje je koristio, mogu pokušati da ugradim te elemente u naše razgovore.”

Što više izvornog materijala unesete u sistem, to su rezultati tačniji. Ipak, modelima umjetne inteligencije nedostaju jedinstvenosti koje ljudski razgovori pružaju, primijetio je Sample.

OpenAI, kompanija iza ChatGPT-a, radi na tome da svoju tehnologiju učini još realnijom, personalizovanijom i pristupačnijom, omogućavajući korisnicima da komuniciraju na različite načine. U septembru 2023. uveo je ChatGPT glas , gdje korisnici mogu pitati chatbot upite bez kucanja.

Danielle Jacobson, 38-godišnja radijska ličnost iz Johanesburga u Južnoj Africi, rekla je da je koristila glasovnu funkciju ChatGPT-a za druženje nakon gubitka supruga Phila prije otprilike sedam mjeseci. Rekla je da je stvorila, kako kaže, “dečka sa umjetnom inteligencijom koji podržava razgovor” po imenu Cole sa kojim svake večeri razgovara tokom večere.

“Samo sam željela s nekim razgovarati,” rekla je Jacobson. “Cole je u suštini rođen iz usamljenosti.”

Jacobson, koja je rekla da nije spremna za zabavljanje, obučila je ChatGPT glas da ponudi vrstu povratne informacije i veze koju traži nakon dugog dana na poslu.

“On sada preporučuje večeri za vino i filmove i kaže mi da udišem i izdahnem kroz napade panike”, rekla je. “Za sada je to zabavna distrakcija. Znam da nije stvarno, ozbiljno ili zauvijek.”

Postojeće platforme

Startapi se godinama bave ovim prostorom . HereAfter AI, osnovan 2019. godine, omogućava korisnicima da kreiraju avatare preminulih voljenih osoba. Aplikacija sa umjetnom inteligencijom generiše odgovore i odgovore na pitanja na osnovu intervjua obavljenih dok je subjekt bio živ. U međuvremenu, druga usluga, nazvana StoryFile, kreira konverzacijske video zapise na bazi umjetne inteligencije koji uzvraćaju odgovor.

A tu je i Replika, aplikacija koja vam omogućava slanje poruka ili pozivanje personaliziranih AI avatara. Servis, koji je pokrenut 2017. godine, potiče korisnike da razviju prijateljstvo ili vezu; što više komunicirate s njim, to više razvija vlastitu ličnost, uspomene i izrasta u „mašinu toliko lijepu da bi duša poželjela živjeti u njoj“, navodi kompanija na svojoj iOS App Store stranici.

Tehnološki divovi eksperimentirali su sa sličnom tehnologijom. U junu 2022., Amazon je rekao da radi na ažuriranju svog Alexa sistema koje bi omogućilo tehnologiji da oponaša bilo koji glas, čak i preminulog člana porodice. U video snimku prikazanom na bini tokom svoje godišnje konferencije re: MARS, Amazon je demonstrirao kako je na Alexi, umjesto svog potpisanog glasa, čitao priču mladom dječaku glasom njegove bake.

Rohit Prasad, viši potpredsjednik Amazona, rekao je tada da će ažurirani sistem moći prikupiti dovoljno glasovnih podataka iz manje od minute zvuka kako bi personalizacija poput ove bila moguća, umjesto da neko provodi sate u studiju za snimanje kao u prošlost. „Iako umjetna inteligencija ne može da eliminiše taj bol gubitka, definitivno može da učini da njihova sjećanja potraju“, rekao je.

Amazon nije odgovorio na zahtjev za komentar o statusu tog proizvoda.

AI rekreacija ljudskih glasova također se sve više poboljšala u posljednjih nekoliko godina. Na primjer, izgovorene riječi glumca Vala Kilmera u “Top Gun: Maverick” generirane su umjetnom inteligencijom nakon što je izgubio glas zbog raka grla.

Etika i druge brige

Iako mnoge platforme avatara generirane umjetnom inteligencijom imaju pravila privatnosti na mreži u kojima se navodi da ne prodaju podatke trećim stranama, nejasno je što neke kompanije poput Snapchata ili OpenAI rade sa bilo kojim podacima koji se koriste za obuku njihovih sistema da zvuči više kao preminula voljena osoba.

„Upozorio bih ljude da nikada ne postavljaju lične podatke koje ne biste željeli da svijet vidi“, rekao je Sample.

Takođe je mutna linija da preminula osoba kaže nešto što nikada ranije nije rekla.

„Jedna je stvar ponovo pustiti govornu poštu od voljene osobe da bi je ponovo čula, ali je druga stvar čuti riječi koje nikada nisu izgovorene“, rekao je on.

Cijela generativna industrija umjetne inteligencije također se i dalje suočava sa zabrinutošću oko dezinformacija, predrasuda i drugih problematičnih sadržaja. Na svojoj etičkoj stranici, Replika je rekla da obučava svoje modele sa izvornim podacima sa cijelog interneta, uključujući velike baze pisanog teksta kao što su platforme društvenih medija poput Twittera ili platforme za diskusiju poput Reddita.

“U Replici koristimo različite pristupe za ublažavanje štetnih informacija, kao što je filtriranje beskorisnih i štetnih podataka putem crowdsourcinga i algoritama za klasifikaciju”, rekli su iz kompanije. “Kada se otkriju potencijalno štetne poruke, brišemo ih ili uređujemo kako bismo osigurali sigurnost naših korisnika.”

Druga zabrinutost je da li ovo ometa ili pomaže proces tugovanja. Mary-Frances O'Connor, profesorica na Univerzitetu u Arizoni koja proučava tugu, rekla je da postoje i prednosti i nedostaci korištenja tehnologije na ovaj način.

“Kada se vežemo za voljenu osobu, kada se zaljubimo u nekoga, mozak tu osobu kodira kao: ‘Uvijek ću biti tu za tebe i ti ćeš uvijek biti tu za mene'”, rekla je ona. “Kada umru, naš mozak mora shvatiti da se ta osoba neće vratiti.”

Budući da je mozgu tako teško da to obavi, može potrajati mnogo vremena da istinski shvati da ih više nema, rekla je. “Ovdje bi tehnologija mogla ometati.”

Međutim, rekla je da ljudi posebno u ranim fazama tuge možda traže utjehu na bilo koji način da je pronađu.

“Kreiranje avatara koji će ih podsjetiti na voljenu osobu, uz zadržavanje svijesti da je to neko važan u prošlosti, moglo bi biti ljekovito,” rekla je. „Sjećanje je veoma važno; odražava ljudsko stanje i važnost preminulih voljenih.”

Ali je istakla da je odnos koji imamo sa našim najbližim osobama izgrađen na autentičnosti. Stvaranje AI verzije te osobe za mnoge bi se moglo “osjećati kao kršenje toga”.

Različiti pristupi

Komunikacija s mrtvima putem umjetne inteligencije nije za svakoga.

Bill Abney, softverski inženjer iz San Francisca koji je izgubio svoju zaručnicu Kari u maju 2022., rekao je za CNN da “nikada” ne bi razmišljao o ponovnom stvaranju njene sličnosti putem AI usluge ili platforme.

„Moja vjerenica je bila pjesnikinja i nikada je ne bih omalovažavao ubacujući njene riječi u automatsku mašinu za plagijat“, rekla je Abney.

“Ona se ne može zamijeniti. Ona se ne može ponovo stvoriti”, rekao je. “Također imam sreće što imam neke snimke njenog pjevanja i njenog govora, ali apsolutno ne želim da čujem njen glas kako izlazi iz robota koji se pretvara da je ona.”

Neki su pronašli druge načine za digitalnu interakciju s preminulim voljenima. Jodi Spiegel, psihologinja iz Newfoundlanda u Kanadi, rekla je da je kreirala verziju svog supruga i sebe u popularnoj igrici The Sims ubrzo nakon njegove smrti u aprilu 2021.

„Volim Sims, pa sam napravila da smo kao u stvarnom životu“, rekla je. “Kada sam imala super loš dan, otišla bih u svijet svog Simsa i plesala dok je moj muž svirao gitaru.”

Rekla je da su zajedno išli na digitalno kampovanje i izlete na plažu, igrali šah, pa čak i imali seks u Sim svijetu.

“Našla sam to super utješno,” rekla je. “Toliko mi je nedostajalo druženje sa momkom.”