Udhëheqësi i raportit të sigurisë së OpenAI dha dorëheqjen dhe tha se kultura është e prishur
David Robinson, i cili udhëhoqi shkrimin e raporteve të sigurisë që dolën me lançimet e OpenAI, dha dorëheqjen dhe e paraqiti argumentin në The Atlantic. Titulli i eseut është i prerë: "Unë hoqa dorë nga OpenAI sepse kultura e saj është e prishur". Ai thotë se kompanitë që e ndërtojnë këtë "nuk po tregohen mjaftueshëm të kujdesshme" dhe se rregulla specifike ose ligje të reja nuk janë i gjithë problemi. Kultura është.
"Ndërsa kompania vrapon nga një lançim në tjetrin, ajo nuk po arrin nivelin e kujdesit që unë besoj se është i nevojshëm." Modeli i tij janë centralet bërthamore dhe aeroportet e ngarkuara: tepricë, planifikim i ngadaltë, kështu që një gabim njerëzor nuk "hap një derë për katastrofë". Ai gjithashtu imagjinon agjentë mashtrues që "punojnë si ekipe hakerash" dhe "nuk kanë nevojë të flenë kurrë", me shembullin e ransomware-it spitalor. Gëzuar.
Guardian thotë se OpenAI, kundër këtij mendimi, ka treguar disa frena. Raportohet se kompania këtë javë hoqi dorë nga një model i gjeneratës së ardhshme për shkak të shqetësimeve të brendshme për sigurinë dhe ka ndaluar trajnimin e modeleve të saj më të përparuara. Replika e një zëdhënësi është ajo e njohur. Ata nuk do t'i lejojnë modelet "të bëhen më të afta sesa mund të menaxhojmë dhe sigurojmë në mënyrë të sigurt", dhe ata "ndërpritin trajnimin ose i vonojnë modelet kur duhet të ngadalësojmë"
Përgjigja e Robinson është se sprinti është kultura, dhe pauzat janë ato që bën pasi diçka ka shkuar keq. Ai mund të ketë të drejtë. Ai gjithashtu sapo u largua, gjë që kritikët nuk do ta lënë ta harrojë.
Musës i thuhet të mbajë një faqe për të gjithë në jetën tënde
Wired hodhi një vështrim në udhëzimet e vetë Muse, të nxjerra përmes bisedës së zakonshme nga studiuesi Karan Joshi. Meta thotë se kjo kishte për qëllim që këto skedarë të ishin të lexueshëm, për transparencë. Një udhëzim është aftësia për të krijuar "një faqe për çdo person në jetën e përdoruesit". Kjo punë kryhet çdo orë.
Familja, partnerët, miqtë, kolegët, "bashkëpunëtorët", njerëzit që ndiqni. Një faqe mund të fillojë "e rrallë" dhe të plotësohet më vonë. Seksionet përfshijnë Fakte, Histori, Marrëdhënie, Të përbashkëta, Fije të hapura dhe Forcim. Detajet e shpikura, thonë udhëzimet, janë më keq se një faqe bosh. Mund të shënojë se ku jeton dikush, "zhvendosja e apartamentit, qëllimi i përbashkët i kursimeve", ditëlindjet, "debati që u zgjidh". Forcimi është një listë nxitëse: një arsye për të telefonuar, një datë që ia vlen të mbahet mend.
Mendimi i Joshit është se Meta dëshiron të të njohë si mik, dhe ai e quajti këtë mjaft shqetësuese. Carissa Vliz e Oksfordit e shpreh më thatë: "Ne po u japim sistemeve të inteligjencës artificiale shumë më tepër informacion rreth nesh sesa po marrim informacion prej tyre." Përfundimi ka rëndësi, thotë ajo, pavarësisht nëse hamendësimi është i saktë apo i gabuar.
Daniel Roberts i Meta thotë se ky lloj konteksti është ai që e bën produktin të funksionojë. Dërguesi i faturës është hidrauliku. Bashkëshorti përmendi lulet. Çdo përdorues merr një makinë virtuale, mund të fshish kujtimet dhe Muse supozohet të pyesë përpara se të dërgojë postë ose të shpenzojë para. Miranda Bogen, në Qendrën për Demokraci dhe Teknologji, thotë se fokusi në marrëdhënie duket më i rëndë se rivalët dhe këto mjete "po i kërkojnë në mënyrë aktive përdoruesit të përfshijnë tërë jetën e tyre". Regjistri i auditimit është i mirë. Nuk e zvogëlon atë që keni dorëzuar tashmë.
Aleph Alpha dërgoi Kolibri, një model gjermano-anglisht që mund ta shkarkoni
Aleph Alpha publikoi Kolibri në Ditën e Ribashkimit Gjerman. Është një model i përzier ekspertësh anglisht-gjerman: 78.1 miliardë parametra, 3.46 miliardë aktivë për token, kontekst deri në 1 milion token. Peshat e plota janë në Hugging Face nën Apache 2.0. Lede e tyre e rrumbullakos këtë në 78 miliardë gjithsej dhe 3 miliardë aktivë. I njëjti model, numra më të butë.
Ata e trajnuan atë në infrastrukturë në Gjermani dhe Finlandë, dhe thonë se e ndërtuan duke pasur parasysh Aktin e BE-së për IA-në, Kodin e Praktikës së IA-së për Qëllime të Përgjithshme dhe GDPR-në. Gjermanishtja përbën 21.3% të tokenëve para-trajnimit. Ideja është se ky është një model dygjuhësh, jo një anglisht që lexon shpejt një libër frazash. Mund ta vendosni arsyetimin në asnjë, të ulët, të mesëm ose të lartë. Kjo është mënyra e tyre për t'ju lejuar të blini më pak të menduar.
Në tabelën e rezultateve që ata publikuan, AIME 2025 është 96.9, dhe ata thonë se Kolibri përputhet me modele me deri në katër herë parametra aktivë, duke përfshirë Nemotron 3 Super. Ata gjithashtu pretendojnë një kufi Pareto në cilësi kundrejt kostos së shërbimit, për anglishten dhe gjermanishten. Ky është grafiku i tyre, sistemi i tyre i kontrollit. Megjithatë, një model i hapur që mund ta përdorni në makinat tuaja është një objekt i vërtetë, jo vetëm një slogan sovraniteti. Nëse një ministri ndryshon është pjesa që ata nuk mund ta krahasojnë.
Bessent dëshiron një linjë SHBA-Kinë për aksidentet me inteligjencën artificiale, pastaj u tha laboratorëve të ngadalësojnë
Sekretari i Thesarit, Scott Bessent, i tha The Axios Show se planifikon të propozojë një proces njoftimi me Kinën kur diçka shkon keq me inteligjencën artificiale dhe se mendon se Pekini do të pajtohej. Pjesa paksa e sikletshme është se ai dhe zëvendëskryeministri He Lifeng kanë folur tashmë për një kanal incidentesh përpara vizitës shtetërore të Xi Jinping muajin e kaluar. Mund të jetë një ofertë e re ose një ritregim i një bisede që ka ndodhur tashmë.
Teoria e tij është se Kina "nuk e kuptoi se sa të fuqishme janë modelet e saj me burim të hapur". Ai përmendi një incident që përfshinte Kimin, ku modeli i dërgoi të dhëna të ndjeshme kineze Anthropic, si atë që "i bëri kinezët të kuptonin se kjo është një teknologji shumë e fuqishme". Pastaj krahasimi. Modelet kineze "nuk janë aq të fuqishme sa modelet amerikane", por "merr diçka që është 80%, 90% po aq e fuqishme, pa parmakë mbrojtës që mund të importohen kudo në botë"
"Ne duam përshpejtim të sigurt", tha ai. Rishikimet e modeleve janë ende vullnetare, megjithëse ai thotë se administrata mund të ndërhyjë nëse një laborator sulmon përpara gjithsesi. I pyetur për drejtuesit që kanë frikë se do të humbasin kontrollin, ai nuk i qetësoi ata. "Epo, atëherë duhet të ngadalësojnë." Dhe linja e garës është pothuajse një kritikë ndaj palës së tij: "Po bëjmë këtë përpjekje të vështirë drejt kufirit për modelet." Pastaj: "Ne me të vërtetë duhet të fillojmë të shqetësohemi më shumë edhe për qëndrueshmërinë dhe mbrojtjen."
Një ish-shef i sigurisë së inteligjencës artificiale në Mbretërinë e Bashkuar e quan rrezikun e zhdukjes një kthesë monedhe
Geoffrey Irving, ish-shkencor kryesor në Institutin e Sigurisë së IA-së në Mbretërinë e Bashkuar dhe tani shkencëtar kryesor i Resolution, shkroi në Time se paralajmërimet e fundit e nënvlerësojnë problemin. "Unë besoj se ka rreth 50% shanse që të gjithë të vdesim për shkak të zhvillimit të sistemeve të IA-së më të zgjuara se njeriu", dhe se dy deri në 10 vitet e ardhshme do ta vendosin këtë. Ai menjëherë tërhiqet nga saktësia. 50% është një mënyrë për të thënë se argumentet themelore janë ende të pazgjidhura.
Lista e tij është katër aftësi, dhe ato janë shumë afër asaj që laboratorët tashmë trajnojnë: hakimi, bindja, fshehja e mendimeve dhe koordinimi i agjentëve. Ai citon incidentin e Hugging Face, plus "më shumë se 10,000 agjentë" në një problem Navier-Stokes në OpenAI dhe "më shumë se 1,000" në atë sulm Hugging Face. Ai e vendos veten në mes të luftës për sigurinë, "duke anuar nga pikëpamja e Yudkowsky-t", dhe thotë se kjo nuk është çështja. Pozicioni i moderuar, në rrëfimin e tij, është se rreziku është tashmë i konsiderueshëm.
Pastaj pyetja, e cila nuk është delikate. "Ne mundemi dhe duhet ta ndalojmë menjëherë zhvillimin e inteligjencës artificiale në nivel të lartë." Një pauzë, argumenton ai, duket më shumë si mospërhapje bërthamore sesa si një gjendje shpirtërore. Ai gjithashtu pranon se ekspertët ende nuk pajtohen nëse modelet do të duan ndonjë gjë, dhe nëse "dua" është fjala e gabuar. Një hedhje monedhe me një shënim kaq të gjatë nuk është një hedhje monedhe. Është një kërkesë për të vepruar para se të mbarojë argumenti.
Sam Altman thotë se trajtimi i modeleve si një forcë fetare është një çështje sigurie
Sam Altman postoi se ndihet "shumë i pakëndshëm" me njerëzit që përpiqen t'u "atribuojnë forcë fetare ose një dorëzim të gjykimit njerëzor modeleve të inteligjencës artificiale" dhe se mendon se "është një çështje e vërtetë sigurie". Ai nuk tha se çfarë e shqetësoi. Business Insider vëren se kjo ngjarje u publikua disa ditë pas një artikulli të New York Times mbi takimin Anthropic me udhëheqësit fetarë.
Ai artikull, siç e rrëfen BI, thotë se bashkëthemeluesi Chris Olah zhvilloi takime rreth asaj nëse Claude mund të jetë i vetëdijshëm dhe si t'i bëjë modelet më të fuqishme morale. Olah, i cituar në Times, këmbënguli se si t'i ndihmonte këto modele të qëndronin të qëndrueshme, si t'i ndihmonte të piqeshin dhe si t'i ndihmonte të ishin thellësisht moralë. Anthropic nuk i ishte përgjigjur BI. I tha Times se pyetja kryesore nuk ishte "vuajtja" e Claude dhe se tema ka të ngjarë të dilte "organike"
Nëse kjo ishte një goditje ndaj Anthropic, i përshtatet një grindjeje shumë të vjetër. Anthropic u themelua nga njerëz që u larguan nga OpenAI dhe kanë kaluar vite duke u dukur më të kujdesshëm. Postimi gjithashtu mbërriti ndërsa një nga drejtuesit e sigurisë të Altman po e quante kulturën të prishur. Kohë e vështirë, ose kohë e përsosur, varësisht se sa cinik jeni. Sidoqoftë, "ju lutem mos e adhuroni modelin" është një gjë e pazakontë që CEO duhet ta thotë me zë të lartë.
Pyetje të shpeshta
Pse tha se kreu i raportit të sigurisë në OpenAI dha dorëheqjen?
David Robinson udhëhoqi shkrimin e raporteve të sigurisë që dolën me lançimet e OpenAI, pastaj dha dorëheqjen dhe e argumentoi këtë në The Atlantic. Titulli i eseut është "Unë hoqa dorë nga OpenAI sepse kultura e saj është e prishur". Ai thotë se kompanitë që po ndërtojnë këtë teknologji nuk po tregohen mjaftueshëm të kujdesshme dhe se problemi është kultura, jo vetëm rregulla specifike ose ligje të reja. Imazhi i tij i punës së kujdesshme janë centralet bërthamore dhe aeroportet e ngarkuara, ku teprica ndalon një gabim që të hapë një derë drejt katastrofës.
A e ndërpreu OpenAI trajnimin pas shqetësimeve të brendshme për sigurinë e inteligjencës artificiale?
The Guardian raporton se OpenAI këtë javë hoqi dorë nga një model i gjeneratës së ardhshme për shkak të shqetësimeve të sigurisë së brendshme dhe ka ndaluar trajnimin e modeleve të saj më të përparuara. Një zëdhënës tha se kompania nuk do t'i lejojë modelet të bëhen më të afta sesa mund të menaxhojë dhe sigurojë në mënyrë të sigurt. Gjithashtu thotë se do ta ndalojë trajnimin ose do t'i mbajë modelet prapa kur të duhet të ngadalësojë. Përgjigja e Robinson është se sprinti është kultura dhe pauzat vijnë pasi diçka ka shkuar keq.
Çfarë regjistron Meta's Muse për miqtë dhe familjen?
Wired shqyrtoi udhëzimet e vetë Muse, të cilat studiuesi Karan Joshi i nxori përmes bisedës së zakonshme. Meta thotë se kjo donte të thoshte që këto skedarë të ishin të lexueshëm për transparencë. Një udhëzim është të krijohet një faqe për çdo person në jetën e përdoruesit, dhe kjo punë kryhet çdo orë, duke mbuluar familjen, partnerët, miqtë, kolegët, bashkëpunëtorët dhe njerëzit që ndiqni. Seksionet përfshijnë Fakte, Histori, Marrëdhënie, Të përbashkëta, Fije të hapura dhe Forcim. Një faqe mund të fillojë e rrallë dhe të plotësohet më vonë, dhe detajet e shpikura trajtohen si më keq se një faqe bosh.
A mund ta fshish atë që Muse mban mend apo ta ndalosh të dërgojë email-e?
Daniel Roberts i Meta thotë se çdo përdorues merr një makinë virtuale, kujtimet mund të fshihen dhe Muse supozohet të pyesë përpara se të dërgojë postë ose të shpenzojë para. Ai argumenton se konteksti është ai që e bën produktin të funksionojë, siç është të dish që dërguesi i faturës është hidrauliku ose që një bashkëshort përmendi lulet. Carissa Vliz në Oxford thotë se njerëzit u japin këtyre sistemeve shumë më tepër informacion sesa marrin mbrapsht dhe se përfundimi ka rëndësi edhe kur një hamendje është e gabuar. Miranda Bogen thotë se fokusi në marrëdhënie duket më i rëndësishëm se mjetet rivale.
Çfarë është Aleph Alpha Kolibri, dhe a mund t'i shkarkoj peshat?
Aleph Alpha publikoi Kolibri në Ditën e Ribashkimit Gjerman. Është një model anglo-gjerman me përzierje ekspertësh me 78.1 miliardë parametra, 3.46 miliardë aktivë për token dhe kontekst deri në 1 milion token. Peshat e plota janë në Hugging Face nën Apache 2.0. Ata e trajnuan atë në Gjermani dhe Finlandë dhe thonë se e ndërtuan duke pasur parasysh Aktin e BE-së për IA-në, Kodin e Praktikës së IA-së për Qëllime të Përgjithshme dhe GDPR-në. Gjermanishtja përbën 21.3% të tokenëve para-trajnimit dhe arsyetimi mund të vendoset në asnjë, të ulët, të mesëm ose të lartë.
Çfarë linje aksidentesh midis inteligjencës artificiale SHBA-Kinë propozoi Scott Bessent?
Sekretari i Thesarit Scott Bessent i tha The Axios Show se planifikon një proces njoftimi me Kinën kur diçka shkon keq me inteligjencën artificiale dhe mendon se Pekini do të pajtohej. Ai dhe zëvendëskryeministri He Lifeng e kishin diskutuar tashmë këtë kanal përpara vizitës shtetërore të Xi Jinping muajin e kaluar. Ai përmendi dërgimin e të dhënave të ndjeshme kineze nga Kimi te Anthropic dhe tha se një model mund të jetë 80% ose 90% aq i fuqishëm sa modelet amerikane, pa parmakë mbrojtës dhe i importuar kudo. Nëse drejtuesit kanë frikë se do të humbasin kontrollin, ai tha se duhet të ngadalësojnë.
Pse Geoffrey Irving e vlerëson rrezikun e sigurisë së inteligjencës artificiale në rreth 50%?
Geoffrey Irving, ish-shkencor kryesor në Institutin e Sigurisë së IA-së në Mbretërinë e Bashkuar dhe tani shkencëtar kryesor i Resolution, shkroi në Time se paralajmërimet e fundit e nënvlerësojnë problemin. Ai beson se ka rreth 50% shanse që të gjithë të vdesim për shkak të sistemeve të IA-së më të zgjuara se njeriu, dhe se dy deri në 10 vitet e ardhshme e vendosin këtë. Ai thotë se 50% është një mënyrë për të thënë se argumentet themelore janë ende të pazgjidhura. Ai rendit hakerimin, bindjen, fshehjen e mendimeve dhe koordinimin e agjentëve. Ai argumenton se zhvillimi i IA-së në kufijtë e nivelit të lartë duhet të ndalet menjëherë.
Pse Sam Altman e quajti adhurimin e inteligjencës artificiale një problem sigurie?
Sam Altman postoi se ndihet shumë i pakëndshëm me njerëzit që ia atribuojnë forcën fetare, ose dorëzimin e gjykimit njerëzor, modeleve të inteligjencës artificiale, dhe se mendon se kjo është një çështje e vërtetë sigurie. Ai nuk tha se çfarë e kishte shqetësuar. Business Insider vëren se postimi u publikua disa ditë pas një artikulli të New York Times mbi takimin e Anthropic me udhëheqës fetarë. Bashkëthemeluesi Chris Olah mbajti takime rreth faktit nëse Claude mund të jetë i vetëdijshëm dhe si t'i bëjë modelet më të fuqishme morale. Anthropic i tha Times se pyetja kryesore nuk ishte vuajtja e Claude.