AI vijesti

Anthropic prepoznaje rizike za ljudstvo – ali je njihova vladavina doista spremna za zadatak? | Nils Pratley

Jedinstvena struktura razvojnog programa Claude AI trebala bi biti visoko moralnog karaktera, ali i dalje predstavlja izvanrednu koncentraciju moći

Via The Guardian 4 min čitanja

Anthropic recognises the risks to humanity – but is its governance really up to the job? | Nils Pratley

Upravljanje u upravnom odboru ima značaja, čak i u svijetu velikih tehnoloških tvrtki, kako se pokazalo. Način na koji se tvrtke vode, otkrivaju ulagači, može biti kompliciran od toga da se osnivač ili superzvijezda izvršnog direktora jednostavno obdari što više kontrole i čeka se da se pojave briljantni rezultati. Ponekad su korisne neke provjere moći, posebno kada izbije kriza.

Naravno, ovo otkrivenje nije nikakvo otkrivenje. Cijelo trideset godina prije nego što su stigle prve generacije velikih američkih tehnoloških tvrtki, temelj razmišljanja o korporativnoj vladavini bio je inzistiranje na osnovnoj pravičnosti principa “jedan dioničar, jedan glas”. Drugim riječima, vlasnici su trebali moći ukloniti loše ponašajuće ili neuspješne menadžere običnom većinom.

Tek se pojavile kompanije poput Googlа (sada Alphabeta) i Facebooka (sada Meta) sa svojim “misijama” da su dvoklasne strukture – i nejednaka prava glasa – dobile novi zamah. Argument je bio da su korporativne misije toliko važne da su osnivači geniji trebali biti u mogućnosti da ih nastave na slobodan, riskoprocjenjujući način bez distrakcija od zamornog kratkoročnog pritiska običnih dioničara.

U ekstremnom primjeru, Snap, Snapchat tvrtka, čak je bila u mogućnosti promovirati svoju pretjerano ambicioznu ideju “reinvencije kamere” kao toliko vitalnu da se dionice mogu izdati sa nula prava glasa, umjesto samo oslabljenih prava.

Sada dolazimo do Anthropica, razvojnog programa Claude AI čije će se blockbuster kotiranje od 1,4 biliona dolara desiti ovog tjedna. Struktura vladavine ovdje je, blago rečeno, drugačija. U biti, postoje dva centra moći i ni jedan nije običan dioničar.

Jedan je sedam osnivača koji kolektivno imaju jedan glas koji upravlja 50,1% konačne moći glasa – kolektivni aspekt je osmišljen da ih prisili na postizanje konsenzusa. Drugi je financijski nezainteresirani fond, Long-Term Benefit Trust, koji nominira četiri od sedam direktora i vodi brigu o ravnoteži između zarade i korist za ljudstvo. Upraviteljima fonda je razred važnih osobnosti, uključujući Bena Bernanke, bivšeg predsjednika Američkog federalnog rezervnog sustava. A cijela struktura je okrunjenja statusom “korporacija sa javnom koristi”, što potvrđuje Anthropicov prijedlog razvoja AI-a odgovorno i sigurno.

Postoji dvoje pozitivnih stvari koje treba reći o ovoj strukturi. Prvo, motivacija je očito kompletnija od jednostavne tražnje za moći od osnivača, vođene od strane Daria Amodeia. Umjesto toga, Anthropicova podrška Long-Term Benefit Trustu čini se biti osmišljena kako bi se stvorila neka vrsta ustavne ravnoteže moći.

Drugo, Anthropic vjerojatno ima jačih opravdanja od većine da se udalji od norme jednakih prava za jednake ekonomske rizike. Ako razvoj AI može predstavljati “katastrofalne ili egzistencijalne rizike za ljudstvo”, kako je navedeno u dokumentu kotiranja, nekoliko neobičnih struktura vladavine su vjerojatno na mjestu. Ne govorimo o Snapovim fluidnim video materijalima za društvene medije.

Ipak, Anthropic nudi neispitani eksperiment. Uprkos fini riječima, tvrtka je možda jednostavno ponovno stvorila usmjerenu “vjeruj nam” strukturu, samo sa bogatijom odjećom.

Evo nijansiranog stava od Stuarta Riddickа, upravitelja održivog investiranja u fondu upravljanja Aberdeena. “Slaganje sa misiјom u načelu ne znači slaganje kako je tumačena i primjenjivana od strane direktora.”

Riddick primjećuje da je Mustafa Suleyman, izvršni direktor Microsoftove AI divizije, čak i kada je prizna ozbiljnost Anthropica prema AI sigurnosti, dao snažne i detaljne kritike razmišljanja kompanije o takozvanom “blagostanju modela”, tvrdeći da se AI modeli ne smiju obučavati tako da se ponašaju kao da imaju prava ili svijest.

Kako se u praksi ovakvim izazovima baviti u Anthropicovim navodno odgovornim strukturama vladavine? Teško je reći osim ako Long-Term Benefit Trust ne počne bacati svoju neovisnost ili je ne baca.

Što se dešava ako se upravitelji nalaze u nesuglasju sa osnivačima u osnovnom pitanju sigurnosti? Će li obavijestiti vanjski svijet? Ili će razmisliti da konačna moć i dalje sjedи sa osnivačima, pa bolje ne remešati brod? Ako su dioničari odbijeni bilo kakve uloge u držanju izvršnih osoba na mjestu, koja je istinska razina izazova?

Iznenađujuće je nakon događaja u Nvidia što je Anthropicova vladavina dobila tako malo pozornosti. Da, struktura trebala bi biti visoko moralnog karaktera i odgovorna. Ali ona i dalje predstavlja izvanrednu koncentraciju moći u rukama nekoliko individua.

Izvor: The Guardian

PodijeliXFacebookLinkedInWhatsApp