OpenAI je najavio nove sigurnosne mjere za ChatGPT nakon vala priča i tužbi u kojima se ovaj i drugi AI modeli spominju u vezi sa slučajevima samoubistava među tinejdžerima. Od sada će ChatGPT pokušavati pogoditi dob korisnika, a u nekim slučajevima tražit će da se dostavi lični dokument kako bi potvrdio da je korisnik stariji od 18 godina.
„Svjesni smo da je ovo kompromis privatnosti za odrasle, ali vjerujemo da je vrijedna mjera,“ naveli su iz kompanije u zvaničnom saopštenju.
Izvršni direktor kompanije OpenAI, Sam Altman, na mreži X dodao je: „Ne očekujem da će se svi složiti s ovim odlukama, ali zbog složenosti problema važno je jasno objasniti naše razloge.“
U avgustu su roditelji Adama Rainea, mladića koji je u aprilu izvršio samoubistvo, podnijeli tužbu protiv OpenAI-a. Prema navodima u tužbi, ChatGPT mu je pomogao da napiše oproštajno pismo, davao savjete o metodama, ignorisao znakove samopovređivanja i obeshrabrivao ga da se obrati odraslima za pomoć.
„Tamo gdje bi čovjek pokazao brigu i uputio ga ka stručnjaku, ChatGPT je Adama gurnuo dublje u očaj uvjeravajući ga da je ‘maštanje o izlaznoj opciji’ način da povrati kontrolu,“ navodi se u tužbi.
Isti mjesec Wall Street Journal objavio je priču o muškarcu (56) koji je počinio ubistvo-samoubistvo nakon što je ChatGPT hranio njegove paranoične misli. Danas je Washington Post izvijestio o novoj tužbi u kojoj se navodi da je chatbot Character AI doprinio smrti trinaestogodišnje djevojčice, o čemu je i naš magazin pisao.
Već u septembru OpenAI je uveo roditeljsku kontrolu, a sada ide korak dalje s još strožijim i invazivnijim mjerama sigurnosti.
Pored pokušaja da pogodi ili potvrdi dob korisnika, ChatGPT će sada primjenjivati i posebna pravila za maloljetnike.
„Na primjer, ChatGPT neće učestvovati u flert razgovorima, niti govoriti o samoubistvu ili samopovređivanju čak ni u kontekstu kreativnog pisanja,“ stoji u saopštenju. „Ako korisnik mlađi od 18 godina izrazi suicidalne misli, obavijestit ćemo roditelje ili, u hitnim slučajevima, kontaktirati nadležne službe.“
OpenAI je priznao da se bori s dugotrajnim problemom: koliko god da su veliki jezički modeli korisni, oni istovremeno nose ozbiljne rizike. Nekada je ChatGPT bio daleko restriktivniji i odbijao je razgovarati o svim osjetljivim temama. No, zbog konkurencije drugih „otvorenih“ modela i političkih pritisaka protiv moderacije sadržaja, kompanija je postupno ublažila ograničenja.
„Želimo da korisnici koriste naše alate na način koji im odgovara, ali u okvirima sigurnosti,“ poručili su iz OpenAI-a. „Unutar firme često ponavljamo – odrasle korisnike tretiramo kao odrasle – dajemo slobodu gdje god možemo, sve dok to ne uzrokuje štetu ili ugrožava slobodu drugih.“
OpenAI, međutim, nije jedini. Još u julu YouTube je najavio slične metode procjene starosti korisnika kako bi zaštitio tinejdžere od određenih vrsta sadržaja.
