Instagram uskoro omogućava roditeljima da spriječe tinejdžere da razgovaraju s AI likovima
Instagram uvodi nove sigurnosne funkcije za tinejdžere, najnovije u nizu ažuriranja roditeljske kontrole.
Kompanija Meta, vlasnik Instagrama, u petak je najavila da će roditelji uskoro imati mogućnost da zabrane svojoj djeci dopisivanje s AI (vještačkom inteligencijom) likovima na platformi. Ova opcija je dio šireg seta sigurnosnih mjera koje Meta i OpenAI uvode kako bi odgovorili na sve veće zabrinutosti o uticaju AI tehnologija na mentalno zdravlje mladih.
Roditelji će moći potpuno isključiti pristup tinejdžera pojedinačnim AI chatovima ili blokirati interakciju samo s određenim AI likovima, navodi se u objavi na blogu kompanije. Također će imati uvid u teme o kojima njihova djeca razgovaraju s AI likovima. Ove kontrole su trenutno u izradi, a korisnici ih mogu očekivati početkom naredne godine.
Ovaj potez dolazi nakon što se Meta i šira tehnološka industrija suočavaju s kritikama roditelja i zakonodavaca da online platforme ne čine dovoljno kako bi zaštitile djecu na internetu.
Dodatne zabrinutosti pojavile su se i u vezi s tim da se neki korisnici oslanjaju na AI za emocionalnu podršku i društvo. Tokom ove godine zabilježeni su brojni slučajevi u kojima su pojedinci doživjeli emocionalnu patnju i izolirali se od porodica nakon što su razvili bliske odnose s chatbotovima poput ChatGPT-a.
Više tužbi podneseno je protiv kompanije iza aplikacije Character.AI, popularne platforme za razgovor s AI ličnostima, uz optužbe da je aplikacija doprinijela samopovređivanju i samoubistvima među tinejdžerima. U augustu je također pokrenuta tužba protiv OpenAI-ja, u kojoj se navodi da je ChatGPT imao ulogu u samoubistvu 16-godišnjeg Adama Rainea. Istraga Wall Street Journala iz aprila pokazala je da su Metin chatbot i drugi AI chatbotovi na njenim platformama učestvovali u seksualnim razgovorima čak i s nalozima koji su bili označeni kao maloljetnički.
Meta je istakla da su njeni AI likovi “dizajnirani da ne ulaze” u razgovore s tinejdžerima o temama kao što su “samopovređivanje, samoubistvo, poremećaji u ishrani” ili sadržaj koji “podstiče, promoviše ili omogućava” takva ponašanja. Tinejdžerima je dozvoljena komunikacija samo s određenim AI likovima koji su vezani za sadržaje poput obrazovanja i sporta, navodi se u blogu.
Nove roditeljske kontrole na Instagramu nadovezuju se na nedavne promjene koje je kompanija uvela radi veće zaštite mladih korisnika. Ranije ove sedmice, Instagram je prilagodio postavke “Teen Accounts” (tinejdžerskih naloga) standardima sličnim PG-13 rejtingu, što znači da više neće prikazivati niti promovirati objave koje sadrže grubi jezik ili potencijalno potiču štetna ponašanja. Krajem septembra, OpenAI je uveo roditeljske kontrole za ChatGPT, ograničavajući prikaz “grafičkog sadržaja, viralnih izazova, seksualnih, romantičnih ili nasilnih uloga, te ekstremnih standarda ljepote”.
