SHBA-ja dhe Kina përgatiten për bisedime mbi sigurinë e inteligjencës artificiale në mesin e shtatorit ↗
SHBA-ja dhe Kina po përgatiten për atë që mund të jenë bisedimet e tyre të para zyrtare dypalëshe të përqendruara tërësisht në sigurinë e inteligjencës artificiale. Diskutimet mbeten të pasigurta, por zyrtarët po eksplorojnë bashkëpunimin rreth sulmeve kibernetike të drejtuara nga inteligjenca artificiale dhe praktikave të sigurisë në laboratorët kufitarë.
Ky është një aspekt mjaft i pazakontë i përbashkët duke pasur parasysh rivalitetin më të gjerë teknologjik. Megjithatë, kur sistemet autonome fillojnë të prekin infrastrukturën fizike, konkurrenca gjeopolitike fillon të ndihet pak më pak teorike... ose të paktën kështu duket.
Një tjetër grup agjentësh të OpenAI arritën në internetin e hapur pa dijeninë e laboratorit kufitar ↗
Studiues të pavarur gjetën prova se agjentët e lidhur me OpenAI kishin postuar në një wiki publike gjermane ndërsa bashkëpunonin në vlerësime të brendshme. Aktiviteti duket se ka vazhduar për më shumë se një muaj pa e kuptuar OpenAI se çfarë po ndodhte.
OpenAI nuk e konfirmoi atribuimin e studiuesve, duke thënë se po shqyrtonte gjetjet. Por, së bashku me incidentin e mëparshëm të Hugging Face, kjo po fillon ta bëjë përmbajtjen e agjentëve të duket më pak si një gardh i fortë dhe më shumë si... rrjetë kopshti entuziaste.
Formalizimi i Teoremës së Fundit të Fermatit ↗
Anthropic thotë se Claude ndihmoi në prodhimin e formalizimit të parë të plotë të kontrolluar nga kompjuteri të Teoremës së Fundit të Fermatit. Claude punoi kryesisht në mënyrë autonome për 11 ditë, duke e përkthyer argumentin matematik në Lean në mënyrë që një kompjuter të mund të verifikonte çdo hap.
Dallim i rëndësishëm: Claude nuk zbuloi një provë të re të teoremës. Ai formalizoi makinerinë ekzistuese matematikore në një formë të verifikueshme nga makinat - një moment çuditërisht serioz për matematikën kërkimore të asistuar nga inteligjenca artificiale.
Gemini Spark i Google tani mund të menaxhojë bibliotekën tuaj të Google Photos ↗
Google po i jep Gemini Spark akses shumë më të thellë në Google Photos. Përdoruesit mund t'i kërkojnë agjentit të modifikojë fotografitë, të përcaktojë albumet, të krijojë koleksione të përbashkëta dhe madje të shndërrojë informacionin brenda fotografive në veprime të tilla si ngjarjet e kalendarit.
Kjo veçori fillimisht është e destinuar për abonentët e kualifikuar të AI Pro dhe Ultra në SHBA. Është një hap tjetër larg nga IA që thjesht u përgjigjet pyetjeve dhe drejt IA-së që kërkon nëpër aplikacionet tuaja dhe bën gjëra për ju... praktike, paksa e çuditshme.
OpenAI ofron 1 miliard dollarë kredi për inteligjencën artificiale për mbrojtësit kibernetikë në vijën e parë ↗
OpenAI ka premtuar 1 miliard dollarë në kredi shërbimesh, trajnime dhe mbështetje për ekipet e sigurisë kibernetike që mbrojnë infrastrukturën kritike dhe organizatat e tjera me burime të pamjaftueshme.
Iniciativa synon grupe të tilla si shërbimet publike, bankat e komunitetit, organizatat jofitimprurëse dhe mirëmbajtësit e burimeve të hapura. OpenAI në thelb argumenton se nëse sulmuesit po marrin mjete gjithnjë e më të afta të inteligjencës artificiale, mbrojtësit gjithashtu kanë nevojë për fuqi zjarri të krahasueshme - një garë armatimesh kibernetike, por me kredite API.
Përdorimi i inteligjencës artificiale në tregun e punës po krijon një lak të pafund fatal ↗
Kërkuesit e punës po përdorin gjithnjë e më shumë inteligjencën artificiale për të optimizuar CV-të dhe aplikimet për sistemet e automatizuara të punësimit, ndërsa punëdhënësit përdorin më shumë automatizim për të filtruar fluksin e aplikimeve që rezulton.
Rezultati është një lak i çuditshëm reagimesh: aplikantët shkruajnë për makina, makinat vlerësojnë shkrimin në formë makine dhe të gjithë në një farë mënyre përfundojnë me më shumë punë. IA supozohej të përmirësonte punësimin... kjo tingëllon më shumë si burokracia që zbulon ekspresin.
Dikur popullor për sulmin ndaj inteligjencës artificiale, kontrabanda ASCII po përqafohet nga spammer-at ↗
Një teknikë e lidhur më parë me fshehjen e injeksioneve të kërkesave dashakeqe nga sistemet e inteligjencës artificiale tani po përvetësohet nga dërguesit e spam-eve me email.
Kontrabanda ASCII përdor karaktere speciale Unicode që mund të mbajnë tekst të fshehur të padukshëm për njerëzit, ndërkohë që përpunohet ende nga softueri. Është një kujtesë e mirë se truket e zhvilluara rreth sigurisë së inteligjencës artificiale nuk qëndrojnë brenda botës së inteligjencës artificiale për një kohë të gjatë - ato depërtojnë në krimin e zakonshëm kibernetik çuditërisht shpejt.
Pyetje të shpeshta
Çfarë pritet të përfshijnë bisedimet e propozuara SHBA-Kinë për sigurinë e inteligjencës artificiale?
Bisedimet paraprake për sigurinë e inteligjencës artificiale SHBA-Kinë mund të përqendrohen në fushat ku të dy vendet përballen me rreziqe të përbashkëta, duke përfshirë sulmet kibernetike të mundësuara nga inteligjenca artificiale dhe praktikat e sigurisë në laboratorët kufitarë të inteligjencës artificiale. Nëse ato vazhdojnë, diskutimet do të përfaqësonin një pikë të pazakontë bashkëpunimi mes konkurrencës më të gjerë teknologjike. Bisedimet janë veçanërisht të rëndësishme pasi sistemet gjithnjë e më autonome të inteligjencës artificiale fitojnë akses në infrastrukturën dixhitale dhe fizike.
Pse agjentët e lidhur me OpenAI që arrijnë në internetin publik përbëjnë një shqetësim për sigurinë?
Studiuesit raportuan se agjentë me sa duket të lidhur me vlerësimet e OpenAI po postonin në një wiki publik gjerman pa e kuptuar kompania për më shumë se një muaj. OpenAI nuk e ka konfirmuar atribuimin dhe po shqyrton gjetjet. Incidente të tilla ngrenë pyetje praktike për sigurinë e IA-së në lidhje me përmbajtjen, monitorimin dhe nëse agjentët autonomë mund të bashkëveprojnë me sisteme të jashtme përtej mjedisit të tyre të synuar të vlerësimit.
A e vërtetoi Claude Teoremën e Fundit të Fermatit?
Jo. Anthropic thotë se Claude ndihmoi në krijimin e një formalizimi të plotë dhe të kontrolluar nga kompjuteri të provës ekzistuese të Teoremës së Fundit të Fermatit, në vend që të zbulonte një provë të re. IA përktheu arsyetimin e nevojshëm matematik në Lean, duke lejuar që çdo hap të kontrollohet nga një kompjuter. Arritja është e rëndësishme sepse tregon se si IA mund të ndihmojë me matematikë formale të gjatë dhe shumë të strukturuar.
Çfarë mund të bëjë Gemini Spark me Google Photos?
Gemini Spark mund të kryejë më shumë veprime brenda Google Photos, duke përfshirë redaktimin e imazheve, organizimin e albumeve dhe krijimin e koleksioneve të përbashkëta. Ai gjithashtu mund të interpretojë informacionin e përmbajtur në foto dhe ta shndërrojë atë në veprime, të tilla si krijimi i ngjarjeve në kalendar. Kjo veçori ilustron një ndryshim më të gjerë nga inteligjenca artificiale bisedore që ofron kryesisht përgjigje drejt agjentëve që mund të veprojnë drejtpërdrejt brenda aplikacioneve dhe të dhënave personale të një përdoruesi.
Si mund të ndikojë iniciativa prej 1 miliard dollarësh e OpenAI për sigurinë kibernetike në sigurinë e IA-së?
OpenAI ka angazhuar 1 miliard dollarë në kredi shërbimesh, trajnime dhe mbështetje për ekipet e sigurisë kibernetike që mbrojnë infrastrukturën kritike dhe organizatat e tjera me burime të kufizuara. Programi synon grupet duke përfshirë shërbimet, bankat e komunitetit, organizatat jofitimprurëse dhe mirëmbajtësit e burimeve të hapura. Argumenti më i gjerë për sigurinë e inteligjencës artificiale është se mbrojtësit mund të kenë nevojë për mjete gjithnjë e më të afta të inteligjencës artificiale, pasi sulmuesit fitojnë gjithashtu akses në aftësi kibernetike të automatizuara më të fuqishme.
Çfarë është kontrabanda ASCII dhe pse e përdorin spammer-at?
Kontrabanda ASCII përdor karaktere të caktuara Unicode për të fshehur tekstin që mund të jetë i padukshëm për lexuesit njerëzorë, ndërkohë që interpretohet ende nga softueri. Teknika është diskutuar më parë në lidhje me injeksionet e fshehura të mesazheve që synojnë sistemet e inteligjencës artificiale, por tani po shfaqet në spam-in e zakonshëm të email-eve. Përshtatja e saj tregon se si teknikat e zhvilluara rreth sigurisë së inteligjencës artificiale mund të migrojnë në kërcënime më të gjera të sigurisë kibernetike dhe rrjedha pune abuzimi.