Character.AI zabranjuje pristup mlađima od 18 godina

Kako AI četbotovi postaju sve sofisticiraniji i ličniji, etičke i bezbednosne brige oko njihove upotrebe među maloletnicima dostigle su kritičnu tačku. U značajnom potezu, popularni AI startap Character.AI objavio je da će zabraniti pristup korisnicima mlađim od 18 godina.

Character.AI omogućava korisnicima da razgovaraju sa AI ličnostima, uključujući istorijske figure, fiktivne likove i čak prilagođene virtuelne saputnike. Odluka o zabrani maloletnicima doneta je usled rastućeg regulatornog pritiska i zabrinutosti javnosti zbog mogućnosti neprimerenih ili štetnih interakcija — naročito onih sa romantičnim ili odraslim temama.

Zašto je ovo važno:<

• Postavljanje presedana: Character.AI je jedna od prvih velikih AI kompanija koja preduzima ovako sveobuhvatnu meru radi zaštite maloletnika, postavljajući novi standard za proveru uzrasta i moderaciju sadržaja u svetu AI tehnologija.
• Debata o bezbednosti: Ovaj potez naglašava stalnu napetost između otvorene prirode generativne AI i potrebe za čvrstim bezbednosnim ograničenjima. Kako AI saputnici postaju sve sličniji ljudima, psihološke i etičke implikacije za mlade korisnike postaju sve složenije.
• Regulatorna budućnost: Ova odluka je verovatno odgovor na buduće zakonske regulative, ali i njihov nagoveštaj. Ona pokazuje da AI kompanije počinju da se samoregulišu kako bi rešile društvene zabrinutosti pre nego što im zakoni to nametnu. Industrija se suočava s izazovom balansiranja između inovacije i odgovornosti.

Izvor: The New York Times