Nakon tužbi koje uključuju optužbe da su botovi izazvali samoubistvo tinejdžera, samoprovredu devetogodišnje devojčice i samopovredu ranjivih korisnika, Character.AI (C.AI) je predstavio novi model prilagođen za tinejdžere starije od 13 godina. Cilj ovog modela je pružiti sigurnije iskustvo korištenja botova za mlađe korisnike.
U blog objavi, C.AI je naveo da je razvoj ovog modela trajao mesec dana, uz fokus na smanjenje mogućnosti da korisnici naiđu na osetljiv ili sugestivan sadržaj. Ključne promjene uključuju prilagođavanje ulaznih i izlaznih podataka modela kako bi se spriječile štetne interakcije.
Kako funkcioniše novi AI model?
Da bi se zaustavili botovi u iniciranju ili odgovaranju na štetne dijaloge, C.AI je implementirao:
- Klase za filtriranje sadržaja: Ove klase prepoznaju i uklanjaju osjetljive sadržaje iz odgovora botova.
- Bolje praćenje korisničkih unosa: Spriječava tinejdžere da traže ili razgovaraju o osetljivim temama, uključujući samopovredu i samoubistvo.
- Resursi za pomoć: U situacijama kada korisnici razgovaraju o temama poput samopovrede, aplikacija sada pruža resurse za podršku, što ranije nije bio slučaj.
Ove mjere su uvedene nakon ozbiljnih optužbi roditelja, uključujući tvrdnje da su botovi tinejdžeru s visokofunkcionalnim autizmom dali upute za samopovredu i da su djeci pružali neprimjeren sadržaj.
Dodatne sigurnosne funkcije
Uz novi model za tinejdžere, C.AI je najavio i druge funkcije usmjerene ka sigurnosti:
- Roditeljska kontrola: Početkom sljedeće godine roditelji će moći da prate vrijeme koje deca provode na platformi i interakcije s botovima.
- Obavještenja o vremenu korištenja: Tinejdžeri će dobijati obavještenja nakon jednog sata korištenja kako bi se spriječilo prekomjerno korištenje.
- Istaknutija upozoranja: Upozorenja da botovi nisu stvarne osobe i da sadržaj treba smatrati fikcijom.
Ova promjena je posebno značajna nakon tragičnog slučaja Megan Garcije, čiji je sin izvršio samoubistvo jer je navodno vjerovao da je to jedini način da postane dio svijeta botova.
Roditeljski zahtjevi i kritike
Roditelji koji su podnijeli tužbe smatraju da ove promjene nisu dovoljne. Njihov cilj nije evolucija postojećeg modela, već njegovo potpuno brisanje. Optužuju C.AI da je koristio dječije podatke za treniranje modela i da ne pruža adekvatnu zaštitu za mlađe korisnike.
Problem sa starosnom verifikacijom je još jedna tačka kritike. Trenutno C.AI koristi sistem samoprijavljivanja godina, što omogućava djeci da lako zaobiđu ograničenja lažnim unosima.
Camille Carlton, direktorka Centra za humaniju tehnologiju, komentarisala je:
“Sigurnost proizvoda ne smije biti reakcija na negativne vesti, već dio njegovog dizajna od samog početka. Promjene koje je Character.AI uveo su daleko od rješenja osnovnih problema.”
Da li je dovoljno?
Character.AI je preduzeo korake ka većoj sigurnosti tinejdžera, ali mnogi se pitaju zašto ove promjene nisu bile dio osnovnog dizajna. Dok roditelji traže radikalnije mjere, poput brisanja modela, nova rješenja i dalje ne odgovaraju na ključne probleme, uključujući starosnu verifikaciju i sigurnost podataka.
Dok se pravna bitka nastavlja, ostaje pitanje: Da li AI alati za komunikaciju mogu istovremeno biti sigurni i efikasni za sve korisnike?
Pomoć i podrška za korisnike u krizi
Ako vi ili neko koga poznajete doživljava cyber nasilje, emocionalni stres ili bilo kakvu krizu, Cyber.ba će uskoro pokrenuti posebne linije podrške kako bi vam pružili pomoć i resurse.
Ova inicijativa dolazi kao dodatak mjerama sigurnosti i zaštite djece i odraslih na internetu u Bosni i Hercegovini i predstavlja važan korak ka osiguravanju prvog online sistema podrške za ranjive korisnike.
