🛡️ Rregullatorët e Mbretërisë së Bashkuar nxitojnë të vlerësojnë rreziqet e modelit më të fundit të IA-së Antropike, raporton FT ↗
Sipas njoftimeve, organet mbikëqyrëse financiare të Britanisë po ecin me shpejtësi drejt modelit të ri Mythos të Anthropic, pas shqetësimeve se ai mund të ekspozojë dobësi serioze në sistemet kritike. Bisedimet përfshijnë Bankën e Anglisë, FCA-në, Thesarin dhe Qendrën Kombëtare të Sigurisë Kibernetike - e cila është një formacion i shkëlqyer për një model paraprak.
Shqetësimi është se Mythos është jashtëzakonisht i aftë në gjetjen e dobësive të softuerit, edhe pse Anthropic thotë se shpërndarja është shumë e kufizuar dhe synon punën e sigurisë mbrojtëse. Bankat, siguruesit dhe bursat pritet të informohen, kështu që kjo tani duket më pak si thashetheme laboratorike dhe më shumë si politikë infrastrukturore.
🤖 Në konferencën HumanX, të gjithë po flisnin për Claude ↗
Anthropic dukej se i jepte tonin HumanX - kjo ishte historia. Nëpër panele, biseda me shitësit dhe biseda në korridor, Claude vazhdonte të shfaqej si modeli që njerëzit kërkonin më shumë për biznesin dhe rrjedhat e punës së kodimit.
Ajo që binte në sy ishte heshtja relative rreth ChatGPT. Artikulli sugjeron që OpenAI ende ka shkallë dhe para, por atmosfera e konferencës anoi nga Claude si mjeti me tërheqjen më të mprehtë të ndërmarrjeve për momentin - ose të paktën kështu duket.
📄 Claude for Word i Anthropic është një tjetër sfidë për perandorinë e softuerëve të Microsoft ↗
Anthropic lançoi një version beta të Claude for Word, duke u futur më tej në softuerin e përditshëm të zyrës në vend që të qëndronte i kufizuar si një mjet zhvilluesi. Mund t'u përgjigjet pyetjeve në lidhje me një dokument me citime seksionesh të klikueshme, të modifikojë tekstin e zgjedhur pa prishur formatimin dhe të trajtojë ndryshimet e gjurmuara.
Audienca e synuar është mjaft e qartë: ekipe që merren me dokumente, veçanërisht ato ligjore dhe financiare. Kjo e bën këtë më shumë sesa një shtesë funksioni - është një shtytje e drejtpërdrejtë në territorin e Microsoft-it dhe një veprim mjaft i paturpshëm.
🌐 Botët e inteligjencës artificiale po e zhveshin uebin nga minierat, dhe Anthropic kryeson ↗
Një vështrim i ri mbi të dhënat e Cloudflare argumenton se kompanitë e inteligjencës artificiale po nxjerrin shumë më tepër nga uebi sesa po kthejnë. Statistika kryesore është raporti crawl-to-refering - sa shpesh botët fshijnë faqet kundrejt sa shpesh i kthejnë përdoruesit mbrapsht - dhe Anthropic ka një rezultat veçanërisht të keq.
Raporti i Anthropic raportohet si 8,800 me 1, me OpenAI gjithashtu të lartë, por shumë më të ulët. Pika më e gjerë del e vështirë: marrëveshja e vjetër e internetit ishte të na skanoje dhe pastaj të na dërgoje trafik. Motorët e përgjigjeve të IA-së e mbajnë pjesën e parë dhe e lënë të dytën të hollohet në mjegull.
⚔️ Një vështrim mbi garën globale të armatimit të inteligjencës artificiale në rritje, ndërsa SHBA-të, Kina, Rusia dhe të tjerë nxitojnë të ndërtojnë armë dhe sisteme mbrojtëse autonome të mbështetura nga inteligjenca artificiale ↗
Mbulimi më i fundit ushtarak mbi inteligjencën artificiale ka më pak të bëjë me demonstrime të shkëlqyera dhe më shumë me përshpejtimin strategjik. Fuqitë e mëdha po shtyjnë përpara sisteme mbrojtëse autonome dhe të asistuara nga inteligjenca artificiale në të njëjtën kohë, gjë që e bën të gjithë këtë të duket si një garë stafetash ku të gjithë rrëmbyen shkopin dhe harruan frenat.
Kjo ngre pyetjet e zakonshme - kontroll, përshkallëzim, llogaridhënie - por me një urgjencë më të madhe tani. Sapo inteligjenca artificiale të jetë e integruar më thellë në synime, mbikëqyrje dhe vendimmarrje në fushën e betejës, termi "eksperimental" fillon të tingëllojë si një etiketë letre mbi diçka që është tashmë në lëvizje.
🏭 SoftBank i Japonisë hap njësinë për të zhvilluar inteligjencën artificiale vendase ↗
SoftBank është bashkuar me Sony, Honda dhe kompani të tjera japoneze për të formuar një sipërmarrje të re të inteligjencës artificiale të fokusuar në "IA fizike" - modele që synojnë të kontrollojnë makinat dhe robotët, jo vetëm të përgjigjen me tekst. Kjo është një rrugë e ndryshme nga gara e zakonshme e chatbot-eve, dhe ndoshta më interesante.
Ambicia është e madhe, me përpjekjet që thuhet se synojnë një model themeli shumë të madh dhe një pistë të gjatë drejt përdorimit industrial. Është pjesërisht strategji kombëtare teknologjike, pjesërisht një projekt i suksesshëm, pjesërisht një anime mekanike me mbledhje bordi.
Pyetje të shpeshta
Pse rregullatorët e Mbretërisë së Bashkuar po e shqyrtojnë nga afër modelin Mythos të Anthropic?
Raportet sugjerojnë se autoritetet e Mbretërisë së Bashkuar e shohin Mythos si një rrezik potencial sepse mund të jetë jashtëzakonisht i aftë në gjetjen e dobësive të softuerëve. Diskutimet thuhet se përfshijnë Bankën e Anglisë, FCA-në, Thesarin dhe Qendrën Kombëtare të Sigurisë Kibernetike. Ky kombinim institucionesh sinjalizon shqetësim në lidhje me efektet e mundshme në sistemet kritike, veçanërisht në financë dhe infrastrukturë.
Çfarë e bën modelin Anthropic Mythos të ndryshëm nga një version normal i IA-së?
Shqetësimi nuk është thjesht se është një model i ri, por se duket veçanërisht i aftë në punën e sigurisë mbrojtëse që lidhet me zbulimin e dobësive të softuerit. Anthropic thuhet se thotë se qasja është e kufizuar rreptësisht, gjë që sugjeron se lançimi po trajtohet me më shumë kujdes sesa një lançim i gjerë për konsumatorët. Në praktikë, kjo e bën të duket më afër një aftësie të kontrolluar sigurie sesa një përditësim standard i chatbot-it.
Pse Claude po tërhiqte kaq shumë vëmendje në konferencën HumanX?
Sipas artikullit, Claude u shfaq vazhdimisht në panele, biseda me shitësit dhe diskutime joformale si një mundësi e fortë për rrjedhat e punës në biznes dhe kodim. Artikulli e paraqet Anthropic si një kompani që ka një moment të dukshëm me përdoruesit e ndërmarrjeve në atë ngjarje. Ai gjithashtu sugjeron që atmosfera rreth HumanX ishte më e qetë në ChatGPT, edhe pse OpenAI ende ka shkallë dhe burime të mëdha.
Çfarë bën në të vërtetë Claude for Word për ekipet që punojnë shumë me dokumente?
Versioni beta i përshkruar këtu është projektuar për të punuar brenda dokumenteve në vend që thjesht të gjenerojë tekst të pavarur. Ai mund t'u përgjigjet pyetjeve në lidhje me një dokument me citime seksionesh, të modifikojë pasazhe të zgjedhura pa ndërprerë formatimin dhe të trajtojë ndryshimet e gjurmuara. Kjo e bën atë veçanërisht të rëndësishëm për ekipet ligjore, financiare dhe të tjera që kanë nevojë për shqyrtim të kujdesshëm në vend të hartimit të përafërt.
Çfarë tregon raporti crawl-to-refering në lidhje me robotët e inteligjencës artificiale dhe uebin?
Artikulli e paraqet këtë raport si një mënyrë për të krahasuar se sa kompani të inteligjencës artificiale i kontrollojnë faqet e internetit me sa shpesh i kthejnë përdoruesit mbrapsht. Në këtë kontekst, një raport shumë i lartë sugjeron nxjerrje me pak trafik kthimi. Anthropic përshkruhet si një person që performon veçanërisht dobët nga kjo masë, gjë që e mpreh kritikën më të gjerë se motorët e përgjigjeve të inteligjencës artificiale mund ta dobësojnë shkëmbimin e vjetër të indeksimit në internet në këmbim të referimeve.
Pse njerëzit po e lidhin përparimin e inteligjencës artificiale si me armët autonome ashtu edhe me inteligjencën artificiale fizike?
Artikulli thekson dy trende të ndërlidhura: qeveritë që përshpejtojnë sistemet mbrojtëse të mbështetura nga inteligjenca artificiale dhe kompani si SoftBank që mbështesin modelet e projektuara për të kontrolluar makinat dhe robotët. Së bashku, ato tregojnë se inteligjenca artificiale po shkon përtej bisedës dhe kërkimit në sisteme fizike që mund të ndiejnë, të vendosin dhe të veprojnë. Kjo ngre pyetje më të mëdha në lidhje me kontrollin, llogaridhënien, përdorimin industrial dhe sa shpejt këto sisteme kalojnë nga eksperimentale në operacionale.