CEO i Anthropic përshkruan planin për të ngadalësuar zhvillimin e inteligjencës artificiale
Dario Amodei sapo i kërkoi industrisë të… ngadalësojë. Jo të ndalet. Ritmi. Ese e gjatë, tre hapa dhe një paralajmërim se vetëpërmirësimi rekursiv po ecën më shpejt nga sa mund ta kuptojnë të rriturit.
Anthropic po fton në mënyrë të njëanshme vlerësues të integruar brenda ndërtesës - distinktivë, tavolina, laptopë dhe të drejtën për të publikuar gjetjet pa një filtër PR. Pastaj ai dëshiron që laboratorët demokratikë të koordinojnë standardet e sigurisë. Pastaj, disi, një marrëveshje me qeveritë autoritare. E lehtë në letër. E vështirë kudo tjetër.
Ai ende thotë se inteligjenca artificiale mund të jetë një mrekulli. Ai gjithashtu thotë se një tufë më e aftë dhe e çorientuar mund të pushtojë internetin me një botnet të vazhdueshëm dhe të shkaktojë qindra miliarda dëme. Këto dy fjali qëndrojnë pranë njëra-tjetrës dhe nuk shkojnë mirë me njëra-tjetrën.
Oh - dhe ai dëshiron një përjashtim të ngushtë nga antitrusti, në mënyrë që bisedat për sigurinë të mos jenë në vetvete një problem ligjor. Frenat vijnë me dokumente. Sigurisht që po.
Sam Altman konfirmon se OpenAI nuk do të dalë në bursë këtë vit, duke thënë se një IPO tani do të vinte në një 'moment të pakëshilluar' duke pasur parasysh shqetësimet për sigurinë e IA-së
Altman u ul për një intervistë ekskluzive dhe e anuloi kalendarin e listimit. Një ofertë publike fillestare tani, tha ai, do të ishte një "moment i pakëshilluar mirë". Puna për sigurinë nuk ka mbaruar. Përshtatja nuk ka mbaruar. Shoqëria nuk është gati. Kur e shtynë - jo këtë vit.
Bankierët tashmë po vinin rrotull. Dosja konfidenciale ekziston. Tani CEO po thotë se kanë shumë gjëra për të bërë më parë, duke përfshirë edhe të kuptojnë se si industria dhe qeveritë bashkëpunojnë. Ai dukej pothuajse i lehtësuar që priste.
Ai tha gjithashtu se ndërtimi i inteligjencës artificiale përtej kontrollit njerëzor është "absolutisht" i mundur - pastaj u zotua se do ta ndërpriste trajnimin nëse kjo është rruga e duhur. E guximshme. Gjithashtu e përshtatshme, ndoshta. Ndoshta të dyja. Ndërthurja jofitimprurëse/fitimprurëse, argumentoi ai, ekziston në mënyrë që ata të mund të bëjnë vendime që nuk janë qartësisht në interes të aksionarëve. Do të shohim nëse kjo fjali do të mbijetojë në kontakt me një prospekt të vërtetë.
Sam Altman i OpenAI lë të kuptohet një marrëveshje me kompani të tjera të inteligjencës artificiale për të adresuar rreziqet e sigurisë
E njëjta intervistë, titull i ndryshëm, dhe kjo është vetëm për të thënë të drejtën. Të ulesh me Amodei-n, Musk-un dhe Demis Hassabis-in është hapi i natyrshëm i radhës. Altman: ai mendon se kjo do të ndodhë. Ai nuk do t'i njoftojë paraprakisht bisedat private. Pastaj, në thelb, i njoftoi ato paraprakisht.
Një rrezik katastrofik me dy shifra nuk është i pranueshëm, tha ai. Modelet ende të papublikuara janë tashmë aq të afta saqë shtyrja më tej pa një monitorim më të mirë duket e pamatur. Pakti i vërtetë dhe atmosfera e zbuluar me kujdes mund të duken identike nga jashtë.
Stafi e kishte dëgjuar tashmë një version të kësaj brenda institucionit. Publikisht është ende mjegull. Nëse ndodh kjo në dhomë, shumë mirë. Nëse jo, citimi prapë bëri punë.
Sam Altman mbështet thirrjen e Dario Amodei për të ngadalësuar ritmin dhe thotë se OpenAI do të bëjë të njëjtën gjë
Orë pas eseut, Altman postoi se OpenAI do të përputhet me premtimin e vlerësuesit të integruar. Qasje e ngjashme me atë të punonjësve. Më shumë për t'u ndarë së shpejti. Musk shkroi tre fjalë: "Dario ka të drejtë." Tre CEO rivalë. Një slogan. Energji e shqetësuar fundjave.
Koordinimi dhe teatri mund të udhëtojnë së bashku. Hapi i parë i planit të Amodeit tani ka dy nga laboratorët më të mëdhenj që përkulin kokën në publik. Hugging Face - po, ajo Hugging Face - kërkoi të bashkohej me programin e vlerësuesit dhe nisi diçka të quajtur Iniciativa e Alignment Open. Transparencë nga njerëzit që u hakuan. Poetike, ose e mprehtë.
Evropa, për aq sa ia vlen, nuk ka askënd që t’i kërkojë atë përjashtim në stilin amerikan. Brukseli ka ndaluar së dhëni përjashtime individuale shumë kohë më parë. Pra, shtrëngimi i duarve është amerikan. Pjesa tjetër e hartës është… duke ngritur supet.
OpenAI dëshiron vetëm të fitojë
Matematikanët nuk janë në humor festiv pas një fundjave intervistash. Sprinti Navier-Stokes i OpenAI - afërsisht dhjetë mijë agjentë, dhjetëra milionë dollarë në llogaritje, tetëdhjetë e tetë orë - duket si një gjueti trofesh nga brenda fushës. Matematikanët duan njohuri. Laboratori, thonë ata vazhdimisht, dëshiron të fitojë.
Tristan Buckmaster u tha atyre se OpenAI ofronte aftësi të pakufizuara kompjuterike dhe autorësi të vetme nëse ai do të hiqte dorë nga bashkëpunëtori i tij i lidhur me Anthropic. Ai e quajti këtë një ryshfet. Tha jo. OpenAI thotë, kategorikisht, se kërkesat e tij në Codex nuk mund të kenë ndikuar në sistem. Ai nuk është i bindur. Andreas Thom ende pyet veten nëse ChatGPT bisedon për punën e tij duke ushqyer modelin që më vonë u ndërtua mbi të. Vetëm kompania do ta dinte. Ai dyshon se ata as nuk e dinë.
Dhe pastaj pika kritike: OpenAI thotë se ka bërë tashmë përparim të konsiderueshëm në një problem tjetër të Çmimit të Mijëvjeçarit. I cili mbetet pa emër. Clay ende ka nevojë për një dritare të gjatë pranimi nga komuniteti gjithsesi. Pra, askush nuk ka "fituar" ende. Ata thjesht po garojnë për problemin tjetër. I lezetshëm.
Pyetje të shpeshta
Cili është plani i CEO-s së Anthropic, Dario Amodei, për të përshpejtuar zhvillimin e inteligjencës artificiale?
Amodei publikoi një ese të gjatë duke i kërkuar industrisë të ngadalësojë - jo të ndalojë - sepse vetëpërmirësimi rekursiv po përparon më shpejt sesa mund të mbajnë ritmin auditorët. Hapi i parë është ftesa e njëanshme e vlerësuesve të integruar në Anthropic me distinktivë, tavolina, laptopë dhe të drejtën për të publikuar gjetjet pa një filtër PR. Pastaj ai dëshiron që laboratorët demokratikë të koordinojnë standardet e sigurisë dhe, përfundimisht, një formë marrëveshjeje me qeveritë autoritare. Ai gjithashtu dëshiron një heqje dorë të ngushtë nga antitrusti në mënyrë që bisedimet për sigurinë të mos jenë vetë një problem ligjor.
Pse tha Sam Altman se OpenAI nuk do të bëjë ofertë publike publike këtë vit?
Në një intervistë ekskluzive, Altman tha se një ofertë publike fillestare tani do të ishte një moment i pakëshilluar mirë, sepse puna e sigurisë, harmonizimi dhe gatishmëria shoqërore janë të papërfunduara. Kur u pyet, ai konfirmoi se kjo nuk do të ndodhte këtë vit, edhe pse bankierët po e prisnin dhe ekziston një dosje konfidenciale. Ai argumentoi se struktura jofitimprurëse/fitimprurëse ekziston, kështu që OpenAI mund të bëjë thirrje që nuk janë qartësisht në interes të aksionarëve. Ai tha gjithashtu se ndërtimi i inteligjencës artificiale përtej kontrollit njerëzor është absolutisht i mundur dhe u zotua se do të ndërpriste trajnimin nëse kjo do të ishte rruga e duhur.
A la të kuptohej Altman për një pakt sigurie me laboratorë të tjerë të inteligjencës artificiale?
Në të njëjtën intervistë, Altman tha se mendon që një takim me kolegë të tillë si Amodei, Musk dhe Demis Hassabis do të ndodhë, ndërsa refuzoi të njoftonte paraprakisht bisedimet private. Ai argumentoi se një rrezik katastrofik me dy shifra nuk është i pranueshëm dhe se modelet ende të papublikuara janë tashmë aq të afta saqë shtyrja më tej pa një monitorim më të mirë duket e pamatur. Stafi kishte dëgjuar tashmë një version të kësaj brenda kompanisë, kështu që komentet publike mund të parashikojnë koordinimin në vend që të konfirmojnë një pakt të përfunduar.
A do të përmbushë OpenAI premtimin e Anthropic për vlerësuesin e integruar?
Disa orë pas esesë së Amodei-t, Altman postoi se OpenAI do të përputhet me premtimin e vlerësuesit të integruar me akses të ngjashëm me atë të punonjësve dhe më shumë detaje së shpejti. Elon Musk shkroi se Dario ka të drejtë, duke i vendosur tre CEO rivalë në një slogan të ngjashëm. Hugging Face kërkoi të bashkohej me programin e vlerësuesit dhe nisi një Iniciativë të Alignment të Hapur. Evropa nuk mund të ofrojë të njëjtën heqje dorë nga antitrusti në stilin amerikan. Amodei propozoi, kështu që shtrëngimi i dorës është kryesisht amerikan për momentin.
Pse matematikanët po e kritikojnë sprintin Navier-Stokes të OpenAI?
Matematikanët e përshkruajnë procesin Navier-Stokes, i cili zgjat rreth dhjetë mijë agjentë dhe zgjat tetëdhjetë e tetë orë, të OpenAI-t si një gjueti trofesh që i jep përparësi fitimit mbi njohuritë. Tristan Buckmaster tha se OpenAI ofroi aftësi të pakufizuara llogaritëse dhe autorësi të vetme nëse ai largonte një bashkëpunëtor të lidhur me Anthropic; ai e quajti këtë një ryshfet dhe refuzoi. OpenAI thotë se kërkesat e tij në Codex nuk mund të kenë ndikuar në sistem, por ai mbetet i pabindur. Andreas Thom ende pyet nëse bisedat e ChatGPT për punën e tij kanë ushqyer përparimin e mëvonshëm të modelit.
A ka pretenduar OpenAI përparim në një problem tjetër të Çmimit të Mijëvjeçarit?
OpenAI thotë se ka bërë tashmë përparim të konsiderueshëm në një problem tjetër të Çmimit të Mijëvjeçarit, por nuk do ta përmendë se cilin. Instituti i Matematikës Clay ende kërkon një dritare të gjatë pranimi nga komuniteti, kështu që askush nuk ka fituar zyrtarisht ende. Brenda fushës, ajo fshehtësi plus gara e mëparshme Navier-Stokes duket sikur laboratorët tashmë po vrapojnë për trofeun e radhës. Intervistat e Verge e paraqesin tensionin si matematikanët që duan njohuri, ndërsa OpenAI dëshiron të fitojë.