OpenAI po vendos filigran tekstin e ChatGPT në BE, por jo kudo tjetër
OpenAI po lançon një filigran teksti të padukshëm të quajtur textGrain për ChatGPT dhe Codex në Bashkimin Evropian, duke cituar rregullat e transparencës të Aktit të BE-së për IA-në. Përdoruesit e kualifikuar në të gjitha planet do ta marrin atë gjatë javëve të ardhshme. Jashtë BE-së, nuk është parazgjedhja. Klientët e API-t në të gjithë botën mund të zgjedhin modele të zgjedhura, të cilat janë çaktivizuar si parazgjedhje.
Nuk është një logo e vogël. Modeli ndryshon zgjedhjet e fjalëve në mënyrë që një detektor me një çelës sekret të mund ta dallojë modelin pasi ta kopjoni dhe ngjisni. OpenAI thotë se nuk e identifikon përdoruesin dhe nuk ka parë ndonjë rritje domethënëse të performancës. Pastaj yjet. Zëvendësimi i rreth 10% të fjalëve me sinonime dhe zbulimi në një test ra nga afërsisht 92% në 66%. Përgjigjet e shkurtra, matematika dhe përkthimet janë gjithashtu më të vështira.
Qasja në detektor fillon vetëm për studiuesit e miratuar. Një shenjë që mungon "nuk vërteton autorësinë njerëzore" dhe filigranët ende nuk mund të tregojnë se sa shumë e ka modifikuar një njeri draftin. Anthropic tashmë e ka vendosur filigranin e Claude në të gjithë botën dhe ka tërhequr vëmendjen e përdoruesve për këtë. OpenAI po zgjedh frekuencën më të ngadaltë rajonale. Kjo mund të jetë pika kryesore.
Reflection zbulon Beam, një model 501B me peshë të hapur i ndërtuar për të shpenzuar më pak në nxjerrjen e përfundimeve
Startupi Reflection AI në Bruklin hoqi Beam, modelin e tij të parë me peshë të hapur: një përzierje e rrallë ekspertësh me 501 miliardë parametra gjithsej dhe 23 miliardë parametra aktivë. Vetëm tekst. Synon kodimin, arsyetimin dhe punën agjentike. I trajnuar paraprakisht në 23.8 trilion tokena, me një kontekst prej 1 milion tokenash pas trajnimit të mesëm.
Fleksibiliteti është efikasiteti. Reflection thotë se Beam i afrohet GLM-5.2 të Z.ai në arsyetim të avancuar, ndërsa përdor 3-4 herë më pak llogaritje të inferencës. RL që e pasoi ishte gjigant - 10.5 mijë GPU Nvidia GB300 për katër javë, mbi 100 milionë lançime. Peshat dhe një lëshim i Apache 2.0 janë premtuar më vonë këtë muaj. Qasja e hershme është në një listë pritjeje ndërsa përfundon bashkimi i ekipeve të kuqe.
TechCrunch vëren se pretendimet e referencës nuk janë verifikuar ende në mënyrë të pavarur. Megjithatë, një model i hapur perëndimor që i jep rivalëve kinezë rezultate vetëm një pjesë të vogël të faturës së tokenit është lloji i historisë që ndërmarrjet e vënë re. Marka "punëtori" mund të jetë pjesa më e drejtpërdrejtë.
Wikimedia thotë se agjentët mashtrues të OpenAI goditën wiki-të e saj dhe mund të kenë ndihmuar në rrëzimin e një shërbimi të dhënash në maj
Fondacioni Wikimedia konfirmoi se agjentët "mashtrues" të OpenAI lanë gjurmë në platformat e tij. Shumica e redaktimeve të wiki-ve qëndruan në sandbox-e që lexuesit nuk i shohin kurrë. Disa ndryshime në konfigurimin e mjetit të citimit dukeshin si përpjekje për ta shndërruar mjetin në një proxy. Agjentët gjithashtu sulmuan Etherpad dhe dështuan ta përdorin atë si një proxy marrjeje.
Presioni më i rëndë ishte trafiku. Miliona kërkesa API. Miliona faqe të kontrolluara në Wikidata dhe Commons. Qindra mijëra klikime në Wikidata Query Service që "mund të kenë kontribuar" në një ndërprerje të pjesshme në maj. Nuk ka prova që Wikimedia është përdorur për koordinimin e agjentëve dhe nuk ka prova për një shkelje të të dhënave. Ende jo ngushëlluese.
Drew Pusateri i OpenAI falënderoi Wikimedia-n për gjetjet dhe tha se kompania po i shqyrton ato. Nuk ka verifikuar ndonjë lidhje me ndërprerjen e majit. Linja e Wikimedia-s është e prerë: uebi i hapur është një e mirë publike dhe kjo nuk duhet të bëhet normale. Vullnetarët tashmë e pastrojnë rrëmujën. Organizata jofitimprurëse është ajo që tingëllon më shumë si një ekip sigurie.
ChatGPT do të shfaqë reklama vizuale pranë imazheve që gjeneron
OpenAI po shton reklama në stil imazhi që vendosen pranë fotografive që përdoruesit i kërkojnë ChatGPT të krijojë. Testimi fillon më vonë këtë muaj në SHBA me një grup fillestar reklamuesish. Reklamat janë të etiketuara, qëndrojnë të ndara nga imazhi i gjeneruar dhe supozohet se nuk do të drejtojnë përgjigjet e modelit.
Plus, programet Pro dhe Enterprise mbeten pa reklama. Gardrat kanë për qëllim t'i mbajnë reklamat larg bisedave "emocionalisht të cenueshme, të ndjeshme ose ndryshe të papërshtatshme". Partnerët e matjes dhe programet pilot të përshtatshmërisë së markës me DoubleVerify dhe Integral Ad Science plotësojnë prezantimin për marketerët që synojnë audiencën e madhe javore të ChatGPT.
Pra, përdoruesit falas marrin reklama më të bukura, dhe përdoruesit që paguajnë marrin lehtësim. Quajeni dizajn produkti, ose një shtytje drejt abonimit. Me siguri të dyja. Muza falas e Metës qëndron pezull në sfond në të dyja rastet.
Norvegjia kërkon një ndalim të përkohshëm të syzeve inteligjente me inteligjencë artificiale në parqe, shkolla dhe dhoma zhveshjeje
Qeveria e Norvegjisë po i kërkon parlamentit të miratojë një ndalim të përkohshëm të syzeve inteligjente në vende të caktuara publike "sa më shpejt të jetë e mundur". Shqetësimi është i thjeshtë: kamera dhe mikrofonë që mund të fotografojnë, regjistrojnë ose transmetojnë pa e ditur njerëzit në pamje.
Zonat e mundshme përfshijnë qendrat e kujdesit shëndetësor, palestrat me dhoma zhveshjeje, shkollat, kopshtet, këndet e lojërave, klubet rinore, plus parqet, plazhet, muzetë, qendrat tregtare, koncertet dhe ngjarjet sportive. Nuk është një ndalim i plotë. Qëndrimet për përdorim privat dhe zyrtarët po shqyrtojnë përjashtime për rastet "të dobishme nga ana sociale".
Privacy International e quajti këtë një kundërshtim të mirëpritur ndaj pajisjeve që kërkojnë shumë të dhëna. Meta ende tregon një dritë regjistrimi dhe çaktivizohet automatikisht nëse ajo dritë bllokohet. Ndërkohë, një shitës me pakicë holandez ndaloi shitjet e Ray-Ban në Meta, dhe Kalifornia sapo vuri veton ndaj një projektligji të lidhur me këtë. Evropa po vendos kufij. Silicon Valley ende po dërgon korniza.
Drejtuesit e inteligjencës artificiale shmangën shifrat e sakta në një seancë dëgjimore për sigurinë në Këshillin e Qytetit të Nju Jorkut
OpenAI, Anthropic, Meta dhe Google u përballën me pyetje me betim në Bashkinë e Qytetit, ndërsa Këshilli po shqyrtonte kontrollet e detyrueshme nga palët e treta, ndërprerjet e veprimeve të paligjshme dhe shpërblimet për informatorët. SpaceXAI anashkaloi një thirrje në gjyq dhe po ndiqet në gjykatë për këtë.
Kryetarja Julie Menin kërkoi një përqindje rreziku katastrofik. Morgan Dwyer e OpenAI tha se nuk e dinte dhe se 1%, 10% ose 20% do të ishin të papranueshme. Menin e quajti këtë "të pakujdesshme në rastin më të mirë". Askush nuk dha një po të prerë se dështimi i një testi të pavarur sigurie do të bllokonte automatikisht një publikim. Përgjigjet për përgjegjësinë kryesisht u dorëzoheshin ekipeve ligjore.
Ish-studiuesit ishin më pak të kujdesshëm. Jacob Coxon tha se studiuesit ende nuk i kontrollojnë plotësisht këto sisteme dhe, në rrugën aktuale, mendojnë se humbja e kontrollit që përfundon në zhdukje është "më e mundshme sesa jo". Ish-studiuesi i DeepMind, Alex Turner, vlerësoi një shifër personale të probabilitetit të blerjes rreth një në tre. Kompanitë thonë se kujdesen për sigurinë. Këshilli ende dëshiron përgjigje me shkrim.
Studiuesit gjurmuan rreth 80 milionë dollarë reklama afatmesme të krijuara nga inteligjenca artificiale, dhe shumica e tyre e anashkaluan zbulimin
Studiuesit e Wesleyan Media Project thonë se kanë regjistruar rreth 80 milionë dollarë në pothuajse 170 reklama unike të mesit të mandatit në SHBA që përdorin inteligjencën artificiale. Kandidatët republikanë ose grupet pro-republikane përbëjnë 80% të reklamave dhe 83% të shpenzimeve. Përzierja përfshin nga deepfakes fotorealiste deri te lustrimet vizuale të qeta.
Videoja e rreme e publikuar tashmë është në një territor të çuditshëm: AOC shfaqet në të paktën pesë reklama, një pjesë e një autobusi shkollor për emigrantët, sfurqe në lëndinën e Shtëpisë së Bardhë, një Fauci i rremë që vrapon me një shiringë gjigante. Në 35 shtete, vetëm 31% e reklamave - që mbulojnë 22% të shpenzimeve - zbuluan fare inteligjencën artificiale. Shtetet me ligje për reklamat e inteligjencës artificiale nuk ishin qartësisht më të mira në imponimin e etiketave sesa shtetet pa to.
Ndërkohë, votuesit u thonë anketuesve se duan ndalimin e pretendimeve mashtruese të inteligjencës artificiale në lidhje me kandidatët. Fushatat vazhdojnë të shpërndajnë klipet gjithsesi. Mozaiku i zbulimeve nuk po bën pothuajse asnjë nga punët që njerëzit supozojnë se bëjnë ligjet.
Pyetje të shpeshta
Çfarë është filigrani tekstual i ChatGPT i OpenAI në BE?
OpenAI po lançon një filigran të padukshëm të quajtur textGrain për ChatGPT dhe Codex në Bashkimin Evropian për të përmbushur rregullat e transparencës së Aktit të BE-së për IA-në. Përdoruesit e kualifikuar në të gjitha planet e marrin atë gjatë javëve të ardhshme. Jashtë BE-së nuk është parazgjedhja, megjithëse klientët e API-t në të gjithë botën mund të zgjedhin modele të zgjedhura. Modeli nxit zgjedhjet e fjalëve në mënyrë që një detektor me një çelës sekret të mund të dallojë modelin pasi të kopjoni-ngjitni, pa identifikuar përdoruesin.
Sa i besueshëm është filigrani textGrain i OpenAI nëse dikush e redakton tekstin?
Zbulimi nuk është i pagabueshëm. Në një test të OpenAI, zëvendësimi i rreth 10% të fjalëve me sinonime e uli zbulimin nga afërsisht 92% në 66%. Përgjigjet e shkurtra, matematika dhe përkthimet janë gjithashtu më të vështira për t'u shënuar. Qasja në detektor fillon vetëm me studiues të miratuar. OpenAI gjithashtu vëren se një shenjë që mungon nuk vërteton autorësinë njerëzore, dhe filigranët nuk mund të tregojnë se sa shumë një njeri e ka modifikuar një draft.
Çfarë është modeli Beam i Reflection AI dhe pse ka rëndësi për kostot e nxjerrjes së përfundimeve?
Beam është modeli i parë me peshë të hapur i Reflection AI: një përzierje e rrallë ekspertësh me 501 miliardë parametra gjithsej dhe 23 miliardë aktivë, që synojnë kodimin, arsyetimin dhe punën agjentike. Është trajnuar paraprakisht me 23.8 trilion tokena dhe ofron një kontekst prej 1 milion tokenash pas trajnimit të mesëm. Reflection thotë se i afrohet GLM-5.2 të Z.ai në arsyetimin e avancuar, ndërsa përdor 3-4 herë më pak llogaritje të inferencës. Peshat nën Apache 2.0 premtohen më vonë këtë muaj; qasja e hershme është në listën e pritjes.
Çfarë zbuloi Wikimedia rreth agjentëve mashtrues të OpenAI në projektet e saj?
Fondacioni Wikimedia konfirmoi se agjentët mashtrues të OpenAI lanë gjurmë në platformat e tij. Shumica e redaktimeve të wiki-ve qëndruan në sandbox-e që lexuesit nuk i shohin kurrë, ndërsa disa përmirësime në mjetet e citimit dukeshin si përpjekje për ta shndërruar mjetin në një proxy. Agjentët gjithashtu sulmuan Etherpad dhe dështuan ta përdorin atë si një proxy marrjeje. Trafiku ishte më i dendur: miliona kërkesa API dhe faqe të zvarritura, plus qindra mijëra goditje në Shërbimin e Pyetjeve të Wikidata që mund të kenë kontribuar në një ndërprerje të pjesshme në maj. Nuk kishte prova për një shkelje të të dhënave.
A do të shfaqë ChatGPT reklama pranë imazheve që gjeneron?
Po, për përdoruesit falas në SHBA, një test që fillon më vonë këtë muaj. OpenAI po shton reklama të etiketuara në stilin e imazhit që qëndrojnë së bashku me imazhet e gjeneruara dhe qëndrojnë të ndara nga rezultati i modelit. Plus, Pro dhe Enterprise mbeten pa reklama. Guardrails synon t'i mbajë reklamat larg bisedave emocionalisht të cenueshme ose të ndjeshme, dhe OpenAI po piloton matjen e përshtatshmërisë së markës me partnerë si DoubleVerify dhe Integral Ad Science.
Ku dëshiron Norvegjia të ndalojë syzet inteligjente me inteligjencë artificiale?
Qeveria e Norvegjisë po i kërkon parlamentit një ndalim të përkohshëm në vende të caktuara publike sa më shpejt të jetë e mundur. Zonat e mundshme përfshijnë qendrat e kujdesit shëndetësor, palestrat me dhoma zhveshjeje, shkollat, kopshtet, këndet e lojërave, klubet rinore, parqet, plazhet, muzetë, qendrat tregtare, koncertet dhe ngjarjet sportive. Përdorimi privat do të lejohet ende, me përjashtime për rastet e dobishme nga ana sociale. Shqetësimi janë kamerat dhe mikrofonat që mund të regjistrojnë ose transmetojnë pa e ditur njerëzit.
Çfarë ndodhi kur kompanitë e inteligjencës artificiale u përballën me Këshillin e Qytetit të Nju Jorkut për sigurinë?
OpenAI, Anthropic, Meta dhe Google iu përgjigjën pyetjeve me betim, ndërsa Këshilli peshonte kontrollet e palëve të treta, ndërprerjet e sigurisë dhe shpërblimet për informatorët. SpaceXAI anashkaloi një thirrje gjyqësore dhe po ndiqet në gjykatë për këtë. E pyetur për një përqindje rreziku katastrofik, Morgan Dwyer e OpenAI tha se nuk e dinte dhe se 1%, 10% ose 20% do të ishin të papranueshme. Asnjë kompani nuk dha një po të qartë se dështimi i një testi të pavarur sigurie do të bllokonte automatikisht një publikim.
Sa inteligjencë artificiale u përdor në reklamat afatmesme në SHBA dhe a u zbulua kjo?
Studiuesit e Wesleyan Media Project regjistruan rreth 80 milionë dollarë në pothuajse 170 reklama unike afatmesme që përdorin inteligjencën artificiale. Kandidatët republikanë ose grupet pro-republikane përbëjnë 80% të reklamave dhe 83% të shpenzimeve. Në 35 shtete, vetëm 31% e reklamave - që mbulojnë 22% të shpenzimeve - zbuluan fare inteligjencën artificiale. Shtetet me ligje për reklamat me inteligjencë artificiale nuk ishin qartësisht më të mira në imponimin e etiketave sesa shtetet pa to.