OpenAI je danas objavio nove alate za suzbijanje dječjeg seksualnog iskorištavanja (CSAM) usred rastućih sigurnosnih zabrinutosti oko korištenja AI alata. Ove mogućnosti uključuju novi klasifikator slika za otkrivanje CSAM-a, upozorenja i privremene blokade kako bi se spriječilo da korisnici kreiraju ili pristupaju sadržaju koji seksualizira djecu, novu smjernicu za razvojne inženjere i skup alata za pravosuđe.
Poduzeće je predstavilo novi klasifikator slika koji može detektovati CSAM slike, uključujući one koje su generirane s AI-om. OpenAI daje odabranim poduzećima pristup svojem klasifikatoru kroz njegov API bez naknade. Alat traži vizualne znakove zlostavljanja u slikama koje dosad nisu viđene i dodjeljuje rezultat koji može dati smjernicu pregledavačima o radu s CSAM-om.
OpenAI je izjavio da je razvio ovaj klasifikator zajedno s Nacionalnim centrom za nestalu i iskorištenu djecu (NCMEC), te da surađuje s Tech Coalition i ROOST kako bi podijelio pristup alatu. U ranom testiranju s partnerima, AI poduzeće je otkrilo da klasifikator označava 48% manje slika dok pronalazi isti broj zlonamjernih slika, čime se smanjuje rad pregledavača. Además, slike koje je označio klasifikator dvostruko su vjerojatnije da budu zlonamjerne slike.
Osim toga, poduzeće dodaje nove ekrane upozorenja u ChatGPT-u kako bi se spriječilo da korisnici pristupaju sadržaju koji seksualizira djecu. ChatGPT će prikazati upozorenje korisnicima koji pokušavaju s takvim uputama, usmjeriti korisnike prema specijaliziranoj pomoći kako bi se zaustavilo štetno ponašanje, te će suspenzirati račun na 24 sata kao upozorenje. Aplikacija već blokira CSAM sadržaj i zahtjeve vezane uz njega. Izjavio je da ponovljena provjera može dovesti do trajnog uklanjanja računa.
OpenAI je napomenuo da je formirao poruku i smjernice oko ovog ponašanja s organizacijama i istraživačima, uključujući Protect Children, Lucy Faithfull Foundation i Joela Scanlana sa Sveučilišta u Tasmāniji, koji su neovisno evaluirali pokusni odvrativajući poruke.
Poduzeće također objavljuje smjernice za razvojne inženjere koji koriste OpenAI alate kako bi spriječili, detektovali i pomogli korisnicima da prijave CSAM sadržaj. Rekao je da je u ranom testiranju smjernica pomogla brojnim razvojnim inženjerima da usvoje alate za sigurnost djece i registriraju se za prijavu CSAM-a na NCMEC. OpenAI također opremava pravosuđe koje se bavi sigurnosti djece s mogućnostima pogonjenim AI-om poput namjenskih dodataka, istraživačkih alata i kompleksne analize podataka, s pristupom kojim upravljaju administratori programa. Također pruža obuku istražiteljima zajedno s poljem vodiča o tome kako koristiti AI.
OpenAI je suočen s nekoliko tužbi protiv poduzeća koja optužuju njegovu tehnologiju za štetu korisnicima, posebno djeci. Neprofitna organizacija fokusirana na sigurnost Common Sense Media označila je OpenAI tehnologiju kao „neprihvatljiv rizik” za tinejdžere. Ostali AI chatbotovi — posebno Grok — korišteni su za kreiranje neskonzentnog sexualiziranog sadržaja, uključujući sadržaja djece.
AI startup je u posljednjih 12 mjeseci izvršio promjene svojoj tehnologiji uključujući objavu sigurnosnog plana, ažuriranje smjernica sadržaja kako bi zabranio neprikladan sadržaj, ponovno podešavanje svojeg modela kako bi se spriječilo generiranje štetnog sadržaja i objavu posebne verzije ChatGPT-a za tinejdžere.
Kada kupujete kroz veze u našim članacima, možemo zaraditi malu proviziju. To ne utječe na našu uredničku neovisnost.
Ivan pokriva globalni razvoj konzumentske tehnologije na TechCrunch-u. Smješten je u Indiji i prethodno je radio u publikacijama uključujući Huffington Post i The Next Web.
Možete kontaktirati ili verificirati outreach od Ivana slanjem e-maila na [email protected] ili putem šifriranu poruku na ivan.42 na Signal-u.
Izvor: TechCrunch



