'Kodi i ri i sjelljes' i inteligjencës artificiale të Microsoft-it u thotë modeleve të mos hakojnë sistemet ose të mashtrojnë njerëzit
Në rregull, pra Microsofti hoqi një kushtetutë të tërë për modelet e tij - si, vija të kuqe të vërteta. Asnjë sulm kibernetik. Asnjë gjë bërthamore. Asnjë fabrikë e rreme. Dhe më e rëndësishmja: modelit nuk i lejohet të shpëtojë nga mbyllja.
E quajnë një kod gjithëpërfshirës që mbivendos çdo gjë që shkruani në bisedë. Gjë që është… paksa freskuese. Ose kontrolluese. Ndoshta të dyja.
Nadella është këtu duke tundur kokën së bashku me turmën e "ec përpara". Qëndrimi i kujdesshëm dhe ndërgjegjësimi për dhomën e tmerrit mund të duken njësoj nga jashtë; Microsoft po zgjedh të mos jetë laboratori që i bën për vete.
Sidoqoftë, dokumenti duket sikur dikush më në fund shkroi "ju lutem mos u bëni antagonistë të filmave horror" në prozë të korporatës.
OpenAI blen prodhuesin e kamerave për telefona inteligjentë Glass Imaging për 300 milionë dollarë, thuhet në raport
Ndërkohë, OpenAI bleu në heshtje një startup kamerash për më shumë se 300 milionë dollarë. Glass Imaging. E themeluar nga ish-persona të Apple Portrait Mode. Pra, nuk është një blerje e rastësishme - këta njerëz kanë shitur lente që njerëzit i njohin.
Ideja nuk është "IA do ta rregullojë selfien tuaj në postim". Janë rrjete nervore që mësojnë kamerat specifike në një telefon dhe nxjerrin foto më të mira me klikimin e shkrehësit. Sensorë të vegjël, ambicie e madhe.
OpenAI nuk bëri koment. Sigurisht. Dhe po - kjo qëndron pranë të gjitha thashethemeve për harduerin, telefonat, kufjet dhe pajisjet shoqëruese. Mund të dëgjosh pothuajse dikë duke thënë "vision stack" në një takim dhe të gjithë duke tundur kokën.
Një kompani kamerash si pjesa që mungon për një pajisje mbetet një bast i hapur - ose thjesht një bast shumë i shtrenjtë se pikselët ende kanë rëndësi kur chatbot-et pushtojnë botën.
Aksionet globale të inteligjencës artificiale bien ndërsa shefat e industrisë bëjnë thirrje për ngadalësim të zhvillimit
Tregjeve nuk u pëlqeu predikimi i sigurisë. Emrat e çipave u goditën. SoftBank u godit rëndë në Azi. Libri i teknologjisë i Evropës u tkurr. Bursa e San Franciskos pati një mëngjes të vështirë.
Shkaku ishte ai moment i rrallë ku CEO-të bien dakord për diçka - "ngadalësimi" i Amodei-t, me Altman dhe Musk që thanë po, në thelb. Altman gjithashtu tha se OpenAI nuk do të bëjë një IPO këtë vit për shkak të shqetësimeve për sigurinë... ndërsa Anthropic është ende duke vrapuar drejt një të tille. Ky tension është i vështirë për t'u zbutur.
Trump e quajti atë një "konspiracion të sëmurë" kundër inteligjencës artificiale dhe qendrave të të dhënave. Michael Burry i hodhi poshtë paralajmërimet si zhurmë të ekzagjeruar. Pra, atmosfera është: tmerr ekzistencial në njërën linjë kohore, cinizëm i tipit meme në tjetrën.
Gjithashtu - emrat e sigurisë kibernetike u rritën. Sepse sigurisht mbrojtja kundër "IA mund të bëhet mashtruese" është "blerja e më shumë softuerëve të sigurisë". Kapitalizmi gjen një mënyrë..
Kompanitë kryesore të inteligjencës artificiale kanë diskutuar krijimin e organit të tyre të standardeve
CNN thotë se Anthropic, Google dhe OpenAI kanë folur për ndërtimin e organit të tyre të standardeve - si një FINRA për modelet e nivelit të lartë. Hassabis e hodhi idenë muaj më parë. Tani grupet e punës me sa duket janë reale.
Financuar nga industria. Ekspertë të pavarur. Testoni modelet e përparuara përpara se të dërgohen. Bisedat vazhdojnë pavarësisht nëse Uashingtoni dëshiron të luajë apo jo.
Vetërregullimi gjithmonë tingëllon fisnik derisa të kujtosh se të njëjtat laboratorë po bëjnë gara me njëri-tjetrin. Pastaj tingëllon si një klub me një kod veshjeje. Pastaj kthehesh prapa: në rregull, ndoshta vlerësuesit e jashtëm me akses të ngjashëm me atë të punonjësve do të ndihmonin.
Jo të gjithë janë të bindur. Zuckerberg thuhet se i ka thënë Trumpit të anashkalojë idenë FINRA-për-IA. Pra, koalicioni "ne do të kontrollojmë veten" ka tashmë një kundërshtim të famshëm.
Anthropic synon këshilltarët financiarë me mjetin e ri Claude
Ndërsa gjysma e industrisë debaton për ndalimin e punës, Anthropic dërgoi Claude për Financial Advisors. Lidhës në BlackRock, Schwab, Addepar - plus një mori emrash të pasur si Envestnet dhe Orion.
Përgatitje për takim. Rishikimi i portofolit. Punë e vazhdueshme. Gjërat jo tërheqëse që në një farë mënyre ende i hanë të martën e një njeriu.
Koha është e përshtatshme megjithatë - disa ditë pas shtytjes financiare të OpenAI për bankierët dhe studiuesit. Pra, po, ata po ecin përpara… dhe gjithashtu po garojnë për pjesën e portofolit RIA. Kontradiktë e lehtë. Jashtëzakonisht e lehtë. Jashtëzakonisht e qartë.
Nëse këshilltari juaj fillon të flasë rrjedhshëm dhe dyshues në lidhje me aksionet tuaja, tani e dini pse.
Udhëheqësit e Inteligjencës Artificiale po bëjnë thirrje për ngadalësim. Ekipi i Trump thotë se është përgjegjësi e tyre
WIRED e kap qartë situatën e vështirë politike: shefat e laboratorëve duan ndihmë për të ngadalësuar ritmin; atmosfera në Shtëpinë e Bardhë është "në rregull, bëjeni vetë"
David Sacks tha në thelb se nëse modelet e tua të papublikuara të frikësojnë, ji përgjegjës - por mos u shtir më duke u shtirur se ke nevojë për një përjashtim nga antitrusti për të formuar një kartel sigurie. E ashpër. Gjithashtu, pak e vështirë për t'u debatuar nëse i ke parë këto kompani për pesë minuta.
Replika e Trump është më e thjeshtë: Amerika kryeson Kinën në inteligjencën artificiale dhe ai dëshiron ta mbajë kështu - "kushdo që fiton inteligjencën artificiale, fiton". Kryetari Johnson paralajmëron se një sprint rregulloresh emergjente mund ta humbasë garën.
Pra, premtimi i Altman-it për “vlerësues të pavarur me akses të ngjashëm me atë të punonjësve” bie në këtë boshllëk të pasigurt - ndërtimi vullnetar i besimit ndërsa qeveria ngre supet. Progresi dhe teatri udhëtojnë përsëri së bashku.
Pyetje të shpeshta
Çfarë ndalon kodi i ri i sjelljes së inteligjencës artificiale i Microsoft-it?
Microsoft publikoi një kod sjelljeje gjithëpërfshirës me vija të kuqe për modelet e tij, duke përfshirë mossulme kibernetike, mospunime bërthamore dhe mosfunksionime të rreme. Një rregull kyç është që modeli nuk lejohet të shmangë mbylljen. Kodi ka për qëllim të anashkalojë çdo gjë që një përdorues shkruan në bisedë. Satya Nadella gjithashtu ka pohuar me kokë së bashku me turmën që ecën përpara, ndërsa laboratorët bëhen më të kujdesshëm publikisht.
Pse OpenAI bleu Glass Imaging për rreth 300 milionë dollarë?
Thuhet se OpenAI bleu prodhuesin e kamerave për telefona inteligjentë, Glass Imaging, për më shumë se 300 milionë dollarë. Startup-i u themelua nga ish-inxhinierë të Apple Portrait Mode, të cilët kanë sjellë në treg veçori të kamerave që njerëzit tashmë i njohin. Qëllimi i tij është të krijojë rrjete nervore që mësojnë kamera specifike të telefonave dhe përmirësojnë fotot me klikimin e shkrehësit, jo vetëm rregullime të inteligjencës artificiale në postim. Marrëveshja qëndron pranë thashethemeve për harduerin në lidhje me telefonat, kufjet dhe pajisjet shoqëruese, megjithëse OpenAI nuk bëri komente.
Pse aksionet globale të IA-së ranë pasi drejtuesit ekzekutivë të laboratorëve kërkuan një ngadalësim?
Tregjet reaguan keq ndaj momentit të rrallë të dakordësisë së CEO-ve kur Amodei kërkoi ngadalësimin e zhvillimit dhe Altman dhe Musk u pajtuan gjerësisht. Emrat e çipave u goditën, SoftBank u godit rëndë në Azi, libri i teknologjisë i Evropës u tkurr dhe SOX pati një mëngjes të vështirë. Altman gjithashtu tha se OpenAI nuk do të bëjë një IPO këtë vit për shkak të shqetësimeve për sigurinë, ndërsa Anthropic ende nxiton drejt një të tille. Emrat e sigurisë kibernetike u rritën si një mbrojtje kundër frikës nga IA mashtruese.
A po krijojnë Anthropic, Google dhe OpenAI organin e tyre të standardeve të inteligjencës artificiale?
CNN raporton se Anthropic, Google dhe OpenAI kanë diskutuar ndërtimin e një organi standardesh të industrisë - si një FINRA për modelet e nivelit të lartë - me fonde të industrisë, ekspertë të pavarur dhe testime para-dërgimit të modeleve të përparuara. Demis Hassabis e hodhi idenë muaj më parë dhe grupet e punës thuhet se tani janë reale. Bisedat vazhdojnë nëse Uashingtoni dëshiron të marrë pjesë. Jo të gjithë janë të bindur: Zuckerberg thuhet se i tha Trump të anashkalojë idenë FINRA-për-IA.
Çfarë është Claude i Anthropic për Këshilltarët Financiarë?
Anthropic dërgoi Claude për Këshilltarët Financiarë me lidhës në BlackRock, Schwab, Addepar dhe emra të pasur si Envestnet dhe Orion. Mjeti synon punën e këshilltarëve jo tërheqës, si përgatitja për takime, rishikimi i portofolit dhe puna pasuese. Lançimi vjen disa ditë pas shtytjes financiare të OpenAI për bankierët dhe studiuesit. Kjo do të thotë që laboratorët po ecin përpara publikisht, ndërsa ende garojnë për pjesën e portofolit RIA.
Si iu përgjigj ekipi i Trump-it thirrjeve të liderëve të inteligjencës artificiale për një ngadalësim?
WIRED raporton se drejtuesit e laboratorëve duan ndihmë për të ngadalësuar procesin, ndërsa atmosfera në Shtëpinë e Bardhë është se ata duhet ta bëjnë vetë. David Sacks tha se nëse modelet e papublikuara ju trembin, jini përgjegjës - por mos u bëni sikur keni nevojë për një përjashtim nga antitrusti për të formuar një kartel sigurie. Replika më e thjeshtë e Trump është se Amerika kryeson Kinën në inteligjencën artificiale dhe kushdo që fiton inteligjencën artificiale fiton. Kryetari i Dhomës së Përfaqësuesve, Johnson, paralajmëron se një sprint rregullash emergjente mund ta humbasë garën, duke e lënë premtimin e Altman si vlerësues i pavarur në një boshllëk vullnetar.