Sa ujë përdor IA?

Vë bast që keni dëgjuar gjithçka, nga "IA pi një shishe ujë çdo disa pyetje" deri te "janë në thelb disa pika". E vërteta është më e nuancuar. Gjurma e ujit e IA-së ndryshon gjerësisht në varësi të vendit ku funksionon, sa kohë zgjat kërkesa juaj dhe si një qendër të dhënash i ftoh serverat e saj. Pra, po, numri i titullit ekziston, por ai ndodhet brenda një sërë paralajmërimesh.

Më poshtë do të shpjegoj shifra të qarta dhe të gatshme për vendimmarrje, do të shpjegoj pse vlerësimet nuk përputhen dhe do të tregoj se si ndërtuesit dhe përdoruesit e përditshëm mund ta zvogëlojnë sasinë e ujit pa u shndërruar në murgj të qëndrueshmërisë.

Artikuj që mund t'ju pëlqejnë të lexoni pas këtij:

🔗 Çfarë është një grup të dhënash i inteligjencës artificiale
Shpjegon se si grupet e të dhënave mundësojnë trajnimin për të mësuarit automatik dhe zhvillimin e modeleve.

🔗 Si parashikon IA trendet
Tregon se si inteligjenca artificiale analizon modelet për të parashikuar ndryshimet dhe rezultatet e ardhshme.

🔗 Si të matni performancën e inteligjencës artificiale
Zbërthen metrikat thelbësore për vlerësimin e saktësisë, shpejtësisë dhe besueshmërisë.

🔗 Si të flasësh me IA-në
Udhëzon strategji efektive të nxitjes për të përmirësuar qartësinë, rezultatet dhe qëndrueshmërinë.

Sa ujë përdor inteligjenca artificiale? Numra të shpejtë që mund t'i përdorni në të vërtetë 📏

• Për çdo kërkesë, diapazoni tipik sot: nga nën-mililitër për një kërkesë mesatare teksti në një sistem kryesor, deri në dhjetëra mililitra për një përgjigje më të gjatë dhe me llogaritje më të lartë në një tjetër. Për shembull, kontabiliteti i prodhimit i Google raporton një kërkesë mesatare teksti ~0.26 mL (duke përfshirë shpenzimet e plota të shërbimit) [1]. Vlerësimi i ciklit jetësor të Mistral përcakton një përgjigje të asistentit me 400 token në ~45 mL (inferencë margjinale) [2]. Konteksti dhe modeli kanë shumë rëndësi.

• Trajnimi i një modeli në shkallë kufitare: mund të arrijë në miliona litra , kryesisht nga ftohja dhe uji i përfshirë në prodhimin e energjisë elektrike. Një analizë akademike e cituar gjerësisht vlerësoi ~5.4 milion litra për të trajnuar një model të klasës GPT, duke përfshirë ~700,000 litra të konsumuara në vend për ftohje - dhe argumentoi për një planifikim inteligjent për të ulur intensitetin e ujit [3].

• Qendrat e të dhënave në përgjithësi: vendet e mëdha mbulojnë mesatarisht qindra mijëra galonë në ditë

Le të jemi të sinqertë: këto shifra në fillim duken të paqëndrueshme. Po, janë. Dhe ka arsye të mira.

Metrika të përdorimit të ujit nga inteligjenca artificiale ✅

Një përgjigje e mirë për pyetjen "Sa ujë përdor IA?" duhet të shënojë disa kuti:

1. Qartësia e kufijve
   A përfshin vetëm ftohës në vend , apo edhe ujin jashtë vendit termocentralet për të gjeneruar energji elektrike? Praktika më e mirë dallon tërheqjen e ujit nga konsumi i ujit dhe fushat 1-2-3, ngjashëm me llogaritjen e karbonit [3].

2. Ndjeshmëria e vendndodhjes.
   Uji për kWh ndryshon sipas rajonit dhe përzierjes së rrjetit, kështu që e njëjta kërkesë mund të ketë ndikime të ndryshme në ujë në varësi të vendit ku shërbehet - një arsye kryesore pse literatura rekomandon planifikimin e vetëdijshëm për kohën dhe vendin [3].

3. Realizmi i ngarkesës së punës
   A pasqyron numri kërkesat mesatare të prodhimit , duke përfshirë kapacitetin e papërdorshëm dhe mbingarkesën e qendrës së të dhënave, apo vetëm përshpejtuesin në kulmin e tij? Google thekson llogaritjen e të gjithë sistemit (pa punë, CPU/DRAM dhe mbingarkesën e qendrës së të dhënave) për nxjerrjen e përfundimeve, jo vetëm llogaritjen e TPU-së [1].

4. Teknologjia e ftohjes
   Ftohja me avullim, ftohja me lëng me qark të mbyllur, ftohja me ajër dhe qasjet në zhvillim direkt në çip e ndryshojnë intensitetin e ujit në mënyrë dramatike. Microsoft po nxjerr në pah dizajne që synojnë të eliminojnë përdorimin e ujit ftohës për disa vende të gjeneratës së ardhshme [4].

5. Koha e ditës dhe stina
   Nxehtësia, lagështia dhe kushtet e rrjetit ndryshojnë efektivitetin e përdorimit të ujit në jetën reale; një studim me ndikim sugjeron planifikimin e punëve të mëdha kur dhe ku intensiteti i ujit është më i ulët [3].

Tërheqja e ujit kundrejt konsumit të ujit, e shpjeguar 💡

• Tërheqja = uji i marrë nga lumenjtë, liqenet ose akuiferet (një pjesë e ujit kthehet).

• Konsumi = uji nuk kthehet sepse avullohet ose përfshihet në procese/produkte.

Kullat e ftohjes konsumojnë ujë nëpërmjet avullimit. Gjenerimi i energjisë elektrike mund të tërheqë vëllime të mëdha (ndonjëherë duke konsumuar një pjesë të saj), varësisht nga impianti dhe metoda e ftohjes. Një numër i besueshëm i ujit me inteligjencë artificiale etiketon atë që raporton [3].

Ku shkon uji në IA: tre kovat 🪣

1. Fusha 1 - ftohja në vend
   Pjesa e dukshme: uji i avulluar në vetë qendrën e të dhënave. Zgjedhjet e projektimit si avullimi kundrejt ajrit ose lëngut me qark të mbyllur përcaktojnë bazën [5].

2. Fusha 2 - prodhimi i energjisë elektrike
   Çdo kWh mund të mbajë një etiketë të fshehur uji; përzierja dhe vendndodhja përcaktojnë sinjalin litra-për-kWh që trashëgon ngarkesa juaj e punës [3].

3. Fusha 3 - zinxhiri i furnizimit
   Prodhimi i çipave mbështetet në ujë ultra të pastër në prodhim. Nuk do ta shihni në një metrikë "për çdo kërkesë" përveç nëse kufiri përfshin në mënyrë të qartë ndikimet e mishëruara (p.sh., një LCA e plotë) [2][3].

Ofruesit sipas numrave, me nuanca 🧮

• Google Gemini kërkon
  metodën e shërbimit Full-stack (duke përfshirë kohën e papunë dhe mbingarkesën e objektit). Mesatarja e tekstit kërkon ~0.26 mL ujë së bashku me ~0.24 Wh energji; shifrat pasqyrojnë trafikun e prodhimit dhe kufijtë gjithëpërfshirës [1].

• Cikli jetësor i Mistral Large 2.
  Një LCA e rrallë e pavarur (me ADEME/Carbone 4) zbulon ~281,000 m³ për trajnim + përdorim të hershëm dhe një marzh inference ~45 mL për një përgjigje asistenti me 400 tokena

• Ambicia e Microsoft-it për ftohje zero-ujë.
  Qendrat e të dhënave të gjeneratës së ardhshme janë projektuar për të konsumuar zero ujë për ftohje , duke u mbështetur në qasjet direkt-në-çip; përdorimet administrative ende kërkojnë pak ujë [4].

• Shkalla e përgjithshme e qendrës së të dhënave
  Operatorët kryesorë raportojnë publikisht qindra mijëra galonë në ditë mesatarisht në vende individuale; klima dhe dizajni i rrisin ose i ulin shifrat [5].

• Baza akademike e mëparshme
  Analiza themelore e "IA-së së etur" vlerësoi miliona litra për të trajnuar modelet e klasës GPT, dhe se 10-50 përgjigje mesatare mund të ishin afërsisht të barabarta me një prej 500 mL - varësisht shumë nga kur/ku ato përdoren [3].

Pse vlerësimet nuk përputhen kaq shumë 🤷

• Kufij të ndryshëm
  Disa shifra marrin parasysh vetëm ftohjen në vend ; të tjerat shtojnë ujin e energjisë elektrike ; LCA-të mund të shtojnë prodhimin e çipave . Mollë, portokalle dhe sallatë frutash [2][3].

• Ngarkesa të ndryshme pune
  Një kërkesë e shkurtër teksti nuk është një ekzekutim i gjatë multimodal/kodi; objektivat e grumbullimit, konkurencës dhe vonesës ndryshojnë shfrytëzimin [1][2].

• Klima dhe rrjete të ndryshme
  Ftohje me avullim në një rajon të nxehtë dhe të thatë ≠ ftohje ajër/lëng në një rajon të freskët dhe të lagësht. Intensiteti i ujit të rrjetit ndryshon shumë [3].

• Metodologjitë e shitësve
  Google publikoi një metodë shërbimi në të gjithë sistemin; Mistral publikoi një LCA formale. Të tjerë ofrojnë vlerësime pikësh me metoda të rralla. Një pretendim i profilit të lartë "një e pesëmbëdhjeta e një luge çaji" për çdo kërkesë bëri bujë në media - por pa detaje kufitare, nuk është i krahasueshëm [1][3].

• Një objektiv në lëvizje
  Ftohja po evoluon me shpejtësi. Microsoft po piloton ftohjen pa ujë në disa vende; zbatimi i tyre do të zvogëlojë ujin në vend edhe nëse energjia elektrike në rrjedhën e sipërme ende mbart një sinjal uji [4].

Çfarë mund të bëni sot për të zvogëluar gjurmën ujore të IA-së 🌱

1. Madhësia e duhur e modelit
   Modelet më të vogla, të akorduara sipas detyrave, shpesh përputhen me saktësinë, ndërsa shpenzojnë më pak llogaritje. Vlerësimi i Mistral nënvizon korrelacionet e forta të madhësisë me gjurmën - dhe publikon numrat e inferencës kufitare në mënyrë që të mund të arsyetoni rreth kompromiseve [2].

2. Zgjidhni rajone që përdorin me mençuri ujin.
   Preferoni rajone me klimë më të freskët, ftohje efikase dhe rrjete me intensitet më të ulët uji për kWh; puna e "etur për inteligjencën artificiale" tregon se i vetëdijshëm për kohën dhe vendin ndihmon [3].

3. Ndërroni ngarkesat e punës në kohë.
   Planifikoni trajnimin/përfundimin e sasive të mëdha për orë me efikasitet të lartë uji (netët më të ftohta, kushtet e favorshme të rrjetit) [3].

4. Pyesni shitësin tuaj për metrika transparente.
   Kërkesa për ujë për çdo prove , përkufizimet e kufijve dhe nëse numrat përfshijnë kapacitetin e papërdorur dhe shpenzimet e përgjithshme të objektit. Grupet e politikave po shtyjnë për zbulim të detyrueshëm për të bërë të mundur krahasimet e përgjithshme [3].

5. Teknologjia e ftohjes ka rëndësi
   Nëse përdorni pajisje, vlerësoni ftohjen me qark të mbyllur/direkt në çip ; nëse jeni në cloud, preferoni rajonet/ofruesit që investojnë në dizajne me dritë uji [4][5].

6. Përdorni ujërat gri dhe opsionet e ripërdorimit
   Shumë kampuse mund të zëvendësojnë burimet jo të pijshme ose të riciklojnë brenda cikleve; operatorët e mëdhenj përshkruajnë balancimin e burimeve të ujit dhe zgjedhjet e ftohjes për të minimizuar ndikimin neto [5].

Një shembull i shpejtë për ta bërë realitet (jo një rregull universal): zhvendosja e një pune trajnimi gjatë natës nga një rajon i nxehtë dhe i thatë në mes të verës në një rajon më të freskët dhe më të lagësht në pranverë - dhe funksionimi i saj gjatë orëve jashtë orarit të pikut, më të freskëta - mund të ndryshojë si përdorimin e ujit në vend jashtë vendit (rrjetit). Ky është lloji i planifikimit praktik të fitoreve me pak dramë që mund të zhbllokojë [3].

Tabela krahasuese: zgjedhje të shpejta për të ulur humbjet e ujit nga IA 🧰

("Çmimi" është i butë nga dizajni - vendosjet ndryshojnë.)

Zhytje e thellë: ritmi i daulleve të politikave po bëhet më i fortë 🥁

Organet inxhinierike bëjnë thirrje për zbulimin e detyrueshëm të energjisë dhe ujit të qendrës së të dhënave, në mënyrë që blerësit dhe komunitetet të mund të gjykojnë kostot dhe përfitimet. Rekomandimet përfshijnë përkufizimet e fushëveprimit, raportimin në nivel vendi dhe udhëzimet për vendosjen - sepse pa metrika të krahasueshme dhe të vetëdijshme për vendndodhjen, po debatojmë në errësirë ​​[3].

Zhytje e thellë: qendrat e të dhënave nuk i përdorin të gjitha në të njëjtën mënyrë 🚰

Ekziston një mit i vazhdueshëm se "ftohja me ajër nuk përdor ujë". Jo tamam. Sistemet me ajër të rëndë shpesh kërkojnë më shumë energji elektrike , e cila në shumë rajone transporton ujë të fshehur nga rrjeti; anasjelltas, ftohja me ujë mund të ulë energjinë dhe emetimet me koston e ujit në vend. Operatorët e mëdhenj i balancojnë në mënyrë të qartë këto kompromise vend pas vendi [1][5].

Zhytje e thellë: një kontroll i shpejtë i realitetit mbi pretendimet virale 🧪

Mund të keni parë deklarata të guximshme se një kërkesë e vetme është e barabartë me "një shishe uji" ose, nga ana tjetër, "vetëm disa pika". Qëndrim më i mirë: përulësi me matematikë . Mbështetëset e librave të besueshëm të sotëm janë ~0.26 mL për një kërkesë mesatare prodhimi me mbishpenzim të plotë [1] dhe ~45 mL për një përgjigje asistente me 400 shenja (inferencë margjinale) [2]. Pretendimi shumë i përhapur i "një të pesëmbëdhjetës së një luge çaji" nuk ka një kufi/metodë publike; trajtojeni atë si një parashikim moti pa qytetin [1][3].

Mini-Pyetje të Shpeshta: Sa ujë përdor inteligjenca artificiale? përsëri, në anglisht të thjeshtë 🗣️

• Pra, çfarë duhet të them në një takim?
  “Sipas kërkesës, sasia varion nga pika në disa gllënjka , varësisht nga modeli, gjatësia dhe vendi ku zhvillohet. Stërvitja bëhet në pellgje , jo në pellgje.” Pastaj citoni një ose dy shembuj më sipër.

• A është inteligjenca artificiale në mënyrë unike e keqe?
  Është e përqendruar : çipat me fuqi të lartë të paketuar së bashku krijojnë ngarkesa të mëdha ftohëse. Por qendrat e të dhënave janë gjithashtu vendi ku teknologjia më e mirë e efikasitetit tenton të bjerë e para [1][4].

• Po sikur ta kalojmë gjithçka në sistemin e ftohjes me ajër?
  Mund të reduktoni ujin në vend jashtë vendit nëpërmjet energjisë elektrike. Operatorët e sofistikuar i peshojnë të dyja [1][5].

• Po teknologjia e së ardhmes?
  Projektimet që shmangin ftohjen e ujit në shkallë të gjerë do të ishin një ndryshim rrënjësor për Skopin 1. Disa operatorë po lëvizin në këtë drejtim; energjia elektrike në rrjedhën e sipërme ende mbart një sinjal uji derisa rrjetet të ndryshojnë [4].

Vërejtje përfundimtare - Shumë e gjatë, nuk e lexova 🌊

• Për çdo pyetje: mendoni nga nënmililitër në dhjetëra mililitra , varësisht nga modeli, gjatësia e pyetjes dhe vendi ku përdoret. Mesatarja e pyetjes ~0.26 mL në një pirg kryesor; ~45 mL për një përgjigje me 400 shenja në një tjetër [1][2].

• Trajnim: miliona litra për modelet e nivelit të lartë, duke e bërë teknologjinë e planifikimit, vendosjes dhe ftohjes kritike [3].

• Çfarë të bëni: modele me madhësinë e duhur, zgjidhni rajone me konsum të ujit, zhvendosni punët e rënda në orët më të ftohta, preferoni shitësit që provojnë dizajne me dritë uji dhe kërkoni kufij transparentë [1][3][4][5].

Metaforë paksa e gabuar në fund: IA është një orkestër e etur - melodia është kompjuterike, por bateria është ujë ftohës dhe rrjetëzues. Akordoni bandën dhe publiku prapë e merr muzikën pa u ndezur spërkatësit. 🎻💦

Referencat

1. Blogu i Google Cloud - Sa energji përdor IA e Google? Ne bëmë llogaritjet (metodologjia + ~0.26 mL mesatare e kërkesës, kostoja e plotë e servirjes). Lidhja
   (Dokumenti teknik PDF: Matja e ndikimit mjedisor të ofrimit të IA në shkallën e Google .) Lidhja

2. Mistral AI - Kontributi ynë në një standard global mjedisor për IA-në (LCA me ADEME/Carbone 4; trajnim ~281,000 m³ ~45 mL për 400 tokena , konkluzion margjinal). Lidhja

3. Li et al. - Duke e bërë IA-në më pak “të etur”: Zbulimi dhe adresimi i gjurmës sekrete të ujit të modeleve të IA-së (trajnimi i miliona litrave , i vetëdijshëm për kohën dhe vendin , tërheqja kundrejt konsumit). Lidhja

4. Microsoft - Qendrat e të dhënave të gjeneratës së ardhshme nuk konsumojnë zero ujë për ftohje (dizajne direkt në çip që synojnë ftohje pa ujë në vende të caktuara). Lidhje

5. Qendrat e të Dhënave të Google - Operim i qëndrueshëm (kompromise të ftohjes vend më vend; raportim dhe ripërdorim, duke përfshirë ujërat e rikuperuara/të zeza; përdorim tipik ditor në nivel vendi sipas urdhrave të madhësisë). Lidhje

Gjeni IA-në më të fundit në Dyqanin Zyrtar të Asistentëve të IA-së

Rreth Nesh