Pse ndonjëherë i shpik gjërat inteligjenca artificiale [Video dhe kuiz]

Përgjigje e shkurtër: IA ndonjëherë shpik gjëra sepse parashikon fjalë të besueshme, jo fakte të verifikuara - rrjedhshmëria nuk është provë. Kur tema është specifike, me rrezik të lartë ose kërkon emra dhe numra të saktë, boshllëqet mbushen me hamendësime të sigurta, përveç nëse e argumentoni përgjigjen dhe kontrolloni menjëherë pretendime të forta.

Artikuj që mund t'ju pëlqejnë të lexoni pas këtij:

🔗 Ndalojeni trajtimin e inteligjencës artificiale si Google.
Mësoni pse rezultatet më të mira të inteligjencës artificiale kërkojnë një qasje të ndryshme.

🔗 Kërkesa juaj e parë e duhur me anë të inteligjencës artificiale.
Ndërtoni një kërkesë të qartë dhe efektive duke përdorur një strukturë të thjeshtë.

🔗 4 pjesët e një porosie të shkëlqyer me anë të inteligjencës artificiale
Zbuloni katër elementë thelbësorë që përmirësojnë cilësinë e porosisë me anë të inteligjencës artificiale.

🔗 Çfarë është në të vërtetë inteligjenca artificiale?
Kuptoni inteligjencën artificiale në terma të thjeshtë, praktikë dhe të përditshëm.

Përmbledhjet kryesore:

Parashikimi i mosdijes: Trajtojeni prozën e rrjedhshme si përfundim të modelit, kurrë si provë të betuar.

Kurthi i besimit: Toni i sigurt është stil; saktësia ka nevojë për kontroll të veçantë jashtë bisedës.

Paketim i rremë: Kërkoni vetë titujt dhe citatet përpara se t'u besoni listave të sakta të referencave.

Bazë përgjigjeje: Ngjit shënimet burimore dhe ndalo URL-të, studimet ose statistikat e shpikura.

Auditimi njerëzor: Kontrolloni menjëherë pretendimin më të rrezikshëm së pari, veçanërisht për shëndetin, ligjin ose financat.

Parashikimi nuk është i njëjtë me njohurinë

Ja versioni i drejtpërdrejtë: shumica e modeleve të bisedave janë makina modelesh. Ju bëni një pyetje. Ato gjenerojnë një përgjigje që i përshtatet formës së një përgjigjeje të mirë. Kjo formë përfshin fakte, ton, strukturë - të gjithë kostumin. Ndonjëherë kostumi mbështjell njohuri të vërteta. Ndonjëherë mbështjell një hamendje të sigurt që mbushi një boshllëk.

Mendoj se një metaforë e lirshme ndihmon, pastaj do ta kthej pak prapa. Imagjinoni një pianist xhazi që ka dëgjuar një milion këngë. Kërkojuni atyre të luajnë "atë për valixhen blu" dhe ata mund të shpikin një melodi të bukur që nuk ka ekzistuar kurrë - sepse kërkesa tingëllonte ashtu siç duhet. Prit - kjo e tepron me artin. Është më shumë si plotësim automatik me steroide. Modeli është plotësimi i një paragrafi të besueshëm, jo ​​hapja e një dollapi arkivimi të etiketuar E Vërteta.

Pra, kur njerëzit pyesin Pse Inteligjenca Artificiale Ndonjëherë Shpik Gjëra, përgjigjja e shkurtër është: boshllëqet mbushen me çfarëdo që tingëllon statistikisht e saktë. Mungesa e një citimi e çon modelin drejt shpikjes së një citimi që duket akademik. I pasigurt për një numër, ai ofron një shifër të rregullt. Pa emrin e mesëm të një personi, ai shpik një që i përshtatet epokës dhe kulturës. Paksa e habitshme në fillim. Pasi ta shihni modelin, jo aq shumë. 

• Teksti i rrjedhshëm është qëllimi i gjenerimit - jo e vërteta e verifikuar.
• Boshllëqet bosh të njohurive prapëseprapë sjellin fjalë të derdhura në to.
• Probabiliteti i "tingëllon saktë" mund ta mposhtë "është i saktë" në renditjen e modelit.

Besimi kundrejt saktësisë - hendeku i vështirë

Njerëzit bëjnë diferencim kur janë të pasigurt. Ne themi "Mendoj", "ndoshta", "Do të duhej ta kontrolloja". Edhe modelet mund të bëjnë diferencim - nëse u kërkoni atyre ta bëjnë - por rezultatet e paracaktuara shpesh lexohen si një udhëzim i sigurt. Ky përsosje është një tipar i trajnimit për ndihmë, jo një sinjal se çdo pretendim ishte i bazuar.

Besimi dhe saktësia janë tregues të ndryshëm. Njëri mund të fiksohet lart, ndërsa tjetri është afër zeros. E keni ndjerë këtë edhe me njerëz: kolegun që shpjegon një proces të gabuar me siguri të plotë. IA mund të bëjë të njëjtën gjë, por më shpejt dhe me formatim më të mirë.

Mësim praktik: trajtojeni formulimin pohues si stil, jo si provë. Nëse një përgjigje nuk ka burime që mund t’i kontrolloni, nuk ka pranim të pasigurisë dhe ka një grumbull emrash ose numrash specifikë - ngadalësoni. Specifikimi pa argumentim është një tregues klasik. 

• Ton i vendosur ≠ përmbajtje e verifikuar.
• Kërkojini modelit që të shënojë qëllimisht pasigurinë.
• Preferoni "ja për çfarë nuk jam i sigurt" në vend të një mbathjeje të rreme hermetike.

Citime dhe detaje të sajuara që duken reale

Ky dhemb sepse duket shumë profesional. Tituj punimesh të rreme. Emra revistash të rreme. URL të rreme që duken pothuajse të klikueshme. Citate të rreme që u atribuohen njerëzve të famshëm. Formatimi është shpesh perfekt - stil i pjerrët, zëvendësues në formë viti të shmangur këtu qëllimisht, emra që tingëllojnë si autorë - dhe paketimi i mashtron skimmer-at.

Kjo ndodh për një arsye të qartë. Forma e citimit është e zakonshme në tekstin e trajnimit. Kur kërkoni "burime", modeli mund të prodhojë formën e studimit shkencor pa marrë një të dhënë të vërtetë. Është si t'i kërkosh dikujt të nxjerrë një faturë nga kujtesa. Merr diçka që duket si një faturë. Dyqani mund të mos ketë ekzistuar kurrë.

Njëherë pashë një draft që shpiku një studim rreth produktivitetit të punës në distancë me një listë autorësh që dukej e pastër. Më dukej sikur ishte rishikuar nga kolegët. Nuk ishte asgjë. Ky është rreziku: truri juaj relaksohet kur paketimi duket i shtrenjtë. Mos u relaksoni. 

• Kërko tituj që mund t’i kërkosh vetë - pastaj kërkoji ato me seriozitet.
• Ji dyshues ndaj paketave të bukura me kuotim plus atribuim që nuk i ke kërkuar kurrë.
• Nëse një "burim" nuk mund të gjendet shpejt, trajtojeni pretendimin si të pambështetur.

Kur rreziku i shpikjes është më i lartë

Jo çdo bisedë është po aq e rrezikshme. Një poezi për kafenë mund të shpikë lirisht metafora - kjo është çështja. Një dozë ilaçi, një afat ligjor, politika e çmimeve të një konkurrenti ose një pretendim historik për një artikull të botuar jeton në një planet tjetër.

Rreziku rritet kur tema është specifike, e kohëve të fundit ose shumë specifike. Ai gjithashtu rritet kur kërkon numra të saktë, dokumente të emërtuara, informacione të brendshme të kompanive private ose "listoni dhjetë studime të rishikuara nga kolegët". Sa më e saktë të jetë kërkesa, aq më shumë tundim ka modeli për të mbushur boshllëqet me mbushës të besueshëm.

Përgjigjet e gjata dhe mbresëlënëse mund të jenë më të rrezikshme sesa ato të shkurtra dhe të kujdesshme. Gjatësia duket si përpjekje. Përpjekja duket si kujdes. Kujdesi duket si e vërteta. Ky zinxhir gjarpëror përshtypjesh është mënyra se si faktet e këqija rrëshqasin në diapozitivat. 

• Rrezik i lartë: shëndeti, ligji, financat, pajtueshmëria, siguria, persona të emëruar, statistika të sakta.
• Rrezik i mesëm: procese të veçanta të industrisë, cilësime të mjeteve, lista të "praktikave më të mira".
• Rrezik më i ulët: shkëmbim idesh, skicim, rishkrimi i draftit tuaj, redaktime të tonit.

Rezultate të besueshme kundrejt atyre të paqëndrueshme - një krahasim i shpejtë

Një tavolinë është më e mirë se një bisedë tjetër inkurajuese. Përfshihen edhe çudira të lehta, sepse bisedat e zakonshme janë të çuditshme.

Mbaje atë tabelë rezultatesh mendore afër. Do të fillosh të vëresh rezultate të lëkundshme ashtu siç vëren një buzëqeshje paksa të çuditshme në një foto - diçka është pozuar.

Si të dalloni përgjigjet e shpikura pa u bërë paranojak

Nuk ke nevojë të verifikosh çdo mbiemër. Të duhet një zakon i lirë verifikimi për pretendimet që kanë rëndësi. Kontrollo menjëherë anën më të mprehtë: numrin, emrin, politikën, citimin. Nëse kjo anë dështon, pjesa tjetër e përgjigjes është në provë.

Një tjetër tregues: kontradiktë e brendshme. Modeli thotë se një mjet "gjithmonë" bën X, pastaj më vonë përshkruan një përjashtim sikur të ishte standard. Ose shpik një veçori, pastaj shpjegon se si ta çaktivizosh atë - si një ëndërr që vazhdon të shpikë dyer. Kërkoni përgjigje që prekin pikat e dobëta. Botët e shpikura kanë tendencë të lëkunden nën presion.

Gjithashtu, kini kujdes me paketimin "shumë perfekt". Çdo paragraf po aq i rafinuar. Çdo rekomandim po aq i sigurt. Ekspertiza e vërtetë zakonisht ka cilësi - paralajmërime, kompromise, "varet". Përsosmëria e sheshtë meriton shqyrtim shtesë. 

• Verifikoni së pari pretendimin më të rrezikshëm, jo ​​të gjithë esenë.
• Pyet "Për çfarë je më pak i sigurt?" dhe shiko nëse maska ​​të rrëshqet.
• Kontrolloni emrat, titujt dhe numrat jashtë bisedës.
• Preferoni përgjigje të lidhura me tekstin që keni ngjitur në vend të fakteve që qarkullojnë lirshëm.

Zakone të shpejta që zvogëlojnë shpikjen

Nuk mund t’i eliminosh halucinacionet me një fjali magjike - më vjen keq - por mund ta zvogëlosh rrezen e shpërthimit. Stimujt e mirë e kufizojnë lojën. Stimujt e këqij ftojnë improvizimin.

Provo zakone të tilla. Tingëllojnë të thata. Funksionojnë më shpesh sesa truket e zgjuara.

• Zbulo njohuritë: "Përdor vetëm shënimet që ngjis unë. Nëse mungojnë, thuaj që nuk i di."
• Ndaloni burimet e rreme: "Mos shpikni citime, citate ose URL."
• Etiketat e pasigurisë së forcës: "Etiketoni çdo pikë: e njohur / e nxjerrë nga konkluzioni / e supozuar."
• Kërkoni alternativa: "Jepni dy mundësi dhe pse secila mund të jetë e gabuar."
• Kërko një leje për dyshim: "Listo supozimet që ke bërë."
• Preferoni strukturën mbi atmosferën: tabelat, listat e kontrollit dhe kolonat e pretendimeve/provave.

Çuditërisht, t’i thuash modelit se është në rregull të thotë “Nuk e di” zvogëlon presionin shoqëror për të kryer me siguri. Modelet pasqyrojnë detyrën. Nëse detyra shpërblen plotësinë me çdo kusht, do të kesh trillim me formatim. Nëse detyra shpërblen diskutimin e qartë rreth boshllëqeve, do të kesh më pak gënjeshtra vezulluese. 

Dhe po - përgjigjet pasuese kanë rëndësi. Përgjigjet e para janë drafte. "Ky citat duket i rremë - hiq çdo gjë që nuk mund ta verifikosh" është një mesazh i dytë krejtësisht normal. Trajtojeni bisedën si redaktim, jo ​​si një makinë shitëse që ju detyrohet të vërtetën që në monedhën e parë.

Mbështetja në Tokë, Ndjekjet dhe Jetesa me Pasiguri

Të vendosësh themel do të thotë ta lidhësh përgjigjen me diçka jashtë improvizimit të modelit: dokumentin tënd të politikave të ngjitur, fletëllogaritësin tënd, shënimet e takimit tënd, një faqe publike të njohur që do ta kontrollosh vetë. Kur përgjigja duhet të qëndrojë brenda atij gardhi, shpikja ka më pak hapësirë ​​për të funksionuar.

Ndjekjet janë gardhi i dytë. "Nga erdhi ky numër?" "Cila pjesë është përfundim?" "Rishkruaj pa ndonjë studim të emërtuar." Çdo pyetje është një audit i vogël. Mendoj se kjo është mënyra e të rriturve për të përdorur këto mjete - jo adhurim, jo ​​panik, vetëm auditime.

Pasiguria nuk është një problem në rrjedhën tuaj të punës. Është moti. Disa ditë modeli bën një përmbledhje të tekstit tuaj. Disa ditë ai shpik një nënkomision që nuk u mblodh kurrë. Detyra juaj është të vendosni se cilat rezultate kanë nevojë për një mushama. 

• Ngjit materialin burimor kur saktësia ka rëndësi.
• Kërkoni etiketa konfidencialiteti në nivel pretendimi.
• Mbajeni një njeri të informuar për vendime me rrezik të lartë.
• Ruajeni "lirinë krijuese" për detyra krijuese - jo për pajtueshmërinë.

Çfarë duhet të bëni kur kapni një halucinacion në mes të rrjedhës së gjakut

Mos u përdredh. Mos e braktis mjetin përgjithmonë sikur të të ka tradhtuar personalisht - megjithëse dëshira mund të ndihet e fortë. Korrigjo fijen dhe vazhdo.

Një cikël i thjeshtë rikuperimi:

• Thirreni: "Ky burim duket i shpikur. Hiqni pretendimet e pambështetura."
• Ri-ankoroni: ngjisni dokumentin, citatin ose të dhënat e vërteta.
• Rindërtoni ngushtë: kërkoni një seksion të korrigjuar, jo një ese krejt të re me përpunime boshe.
• Kontrolloni përsëri skajet e mprehta: emrat, numrat, hapat e procesit.
• Vendosni nivelin e besimit: partner për shkëmbim idesh kundrejt asistentit të hartimit të projektligjit kundrejt "jo për këtë temë".

Kapja e një halucinacioni mund të përmirësojë pjesën tjetër të bisedës - nëse shtrëngoni kufizimet. Modeli nuk "ndihet fajtor", por udhëzimet tuaja më të qarta ndryshojnë atë për të cilën optimizon. Ju po drejtoni. Drejtoni më fort kur shfaqet shpikje. 

Skenarë të përditshëm ku kjo ka rëndësi në heshtje

Emailet e punës: një "afat kohor standard i industrisë" i shpikur mund të vendosë pritshmëri që nuk mund t'i përmbushni. Shkolla dhe të mësuarit: një shpjegim i rremë mund t'ju ngecë në kokë para se ta vini re. Draftet e mbështetjes së klientit: një rregull i sajuar për rimbursimin bëhet premtim. Shkrim krijues: shpikni - ky është vendi i lojërave.

Vija kryesore është pasoja. Nëse fjalët e gabuara kushtojnë para, besim, nota ose siguri, verifikimi nuk është punë e lodhshme opsionale. Nëse fjalët e gabuara kushtojnë vetëm një ngritje supesh, lirohuni. Përputhja e kujdesit me pasojën është aftësia e të rriturve këtu - më shumë sesa të mësuarit përmendësh të fjalës "halucinacion"

Gjithashtu: ekipet duhet të normalizojnë "E verifikova këtë pretendim" në të njëjtën mënyrë siç normalizojnë "kontrolli i drejtshkrimit kaloi". Përndryshe, një paragraf i rafinuar bëhet njohuri fisnore brenda natës. Çfarë tmerri.

Përmbledhjet kryesore

Pra, libri " Pse ndonjëherë inteligjenca artificiale i shpik gjërat" reduktohet në këtë: këto sisteme parashikojnë gjuhë të besueshme, plotësojnë boshllëqet me përputhje modelesh dhe shpesh tingëllojnë të sigurt ndërsa e bëjnë këtë. Ky kombinim krijon përgjigje të gabuara të sigurta, citime të sajuara dhe detaje të pastra që nuk kanë ndodhur kurrë.

Nuk ke pse të kesh frikë nga mjeti. Ke nevojë për zakone. Kontrollo menjëherë pretendimet e forta. Ndalo burimet e shpikura. Ngjit kontekstin konkret. Kërko për pasiguri. Përdor ndjekjet si auditime. Ruaje gjenerimin e lirë për punë krijuese me rrezik të ulët.

Rrjedhshmëria nuk është një referencë për personazhin. Trajtojeni si një praktikant të talentuar që shkruan në mënyrë qesharake shpejt, ndonjëherë shpik një takim që nuk ka ndodhur kurrë dhe prapëseprapë mund të shkëlqejë kur mbikëqyret. Mbajeni mbikëqyrjen. Mbajeni zgjuarsinë. Mbajeni skepticizmin të lehtë, por të bazuar. Kështu arrini rezultate pozitive pa e paraqitur trillimin si fakt.

Shembull praktik: Kapja e citimeve të shpikura në një përmbledhje kërkimore të konkurrentëve

Halucinacionet duken abstrakte derisa një paragraf i rafinuar pothuajse përfundon në një listë klientësh. Ja se si një analist marketingu në Mbretërinë e Bashkuar i përdori zakonet në këtë udhëzues për të ndaluar dërgimin e trillimeve të veshura si kërkime - pa braktisur chatbot-in.

Skenari

Semi ka dy orë kohë për të hartuar një përmbledhje njëfaqëshe të konkurrentit për një fillim shitjesh. Kërkesa është e njohur: pikat e forta, sinjalet e çmimeve dhe "disa burime të besueshme". Sipas zakonit të vjetër, Semi shkroi "përmbledh Konkurrentin X me burime" dhe mori një përmbledhje të rregullt me ​​tre citime që dukeshin akademike dhe një përqindje të saktë të pjesës së tregut. Tingëllonte e shkurtër. Kryesisht ishte shpikur. Një titull nuk mund të gjendej. Shifra e pjesës nuk shfaqej askund në faqen e internetit të konkurrentit.

Sami nuk ka nevojë për një model që tingëllon më mirë. Sami ka nevojë për një rrjedhë pune të bazuar në të: ngjit shënimet e burimeve, ndalon burimet e rreme, imponon etiketa të pasigurisë, kontrollon fillimisht pretendimin më të saktë dhe pastaj rindërton vetëm pjesën e prishur.

Qëllimi është një dokument të cilit ekipi mund t’i besojë për pikat e diskutimit - jo një faturë e nxjerrë nga kujtesa që duket vetëm si një faturë.

Çfarë i duhet asistentit

• Materiali burimor që Sam ka tashmë: tekstin e faqes kryesore, tekstin e faqes së çmimeve, dy tiketa mbështetjeje të fundit, shënime nga një marrëveshje e humbur
• Një rregull i vështirë: përdorni vetëm tekst të ngjitur për pohime faktike; thoni "Nuk e di" kur shënimet janë të heshtura
• Një ndalim për citimet, citatet, URL-të dhe statistikat e shpikura
• Një formë dalëse që ndan të njohurin/të supozuarin/të supozuarin
• Koha për një kontroll njerëzor të emrave, numrave dhe çdo titulli "burimor" përpara se të ndahet paketa
• Leja për të bërë deri në tre pyetje sqaruese në vend të plotësimit të boshllëqeve

Shembull udhëzimi

Mesazhi 1 - përmbledhje e bazuar: Duke përdorur vetëm shënimet që ngjis më poshtë, hartoni një përmbledhje njëfaqëshe të konkurrentëve për shitjet. Seksionet: Çfarë pretendojnë ata / Për çfarë ankohen klientët / Sinjalet e çmimeve / Pyetje të hapura. Mos shpikni citime, citate, URL ose statistika. Nëse një fakt nuk është në shënime, shkruani "i panjohur" dhe renditeni atë nën Pyetje të Hapura. Etiketoni çdo pikë: i njohur / i nënkuptuar / i supozuar. Anglisht në Mbretërinë e Bashkuar. Pa parathënie.

Mesazhi 2 - dyshimi kalon: Renditni çdo supozim që keni bërë. Hiqni çdo gjë të etiketuar me hamendje, përveç nëse mund të tregoni një fjali të ngjitur që e mbështet atë. Nëse keni shpikur më parë një burim, fshijeni dhe thuajeni.

Mesazhi 3 - rindërto ngushtë: Kjo linjë e pjesës së tregut nuk mbështetet. Rishkruani vetëm seksionin e Sinjaleve të Çmimeve pa numra, përveç nëse shfaqen në shënimet e mia. Mbani seksionet e tjera.

Si ta testoni

• Bëni një pyetje të lirë ("përmbledhni Konkurrentin X me tre burime të rishikuara nga kolegët") dhe përmbledhjen e bazuar më sipër. Krahasoni titujt e shpikur dhe statistikat e rreme.
• Kontrolloni fillimisht pretendimin më të rrezikshëm (një numër ose një studim i emërtuar), jo të gjithë faqen.
• Pyet: "Për çfarë je më pak i sigurt?" Një përgjigje e fortë emërton boshllëqet; një përgjigje e pasigurt i dyfishon.
• Rasti në skaj: hiq çmimin nga shënimet e ngjitura dhe konfirmo që drafti thotë i panjohur në vend që të shpikësh një çmim plani.
• Kontrollet e pranimit para ndarjes: (1) çdo pikë "e njohur" lidhet me një vijë të ngjitur, (2) asnjë citim i sajuar, (3) pyetjet e hapura rendisin boshllëqet e vërteta, (4) ju vetë keni kërkuar çdo titull të mbetur, (5) asnjë statistikë e saktë pa një shënim pas tyre.

Rezultati

Rezultati ilustrues (shembull vlerësimi për rrjedhën e punës së konkurrentëve të një analisti, jo një studim i botuar): Në 8 detyra informuese, koha e nevojshme nga "shënimet e hapura" në "draft gati për verifikim njerëzor të fakteve" u rrit pak nga një mesatare prej rreth 12 minutash (trillim i rafinuar me një herë) në rreth 15 minuta me kërkesën e bazuar - por rreziku i pastrimit dhe turpërimit ra. Verifikimi njerëzor i pretendimeve të forta ra nga një mesatare prej rreth 18 minutash (ndjekja e titujve të rremë dhe rishkrimi) në rreth 6 minuta kur pretendimet ishin të para-etiketuara dhe burimet e shpikura ishin të ndaluara, kështu që koha neto ra me rreth 9 minuta për përmbledhje, ose rreth 72 minuta në të gjithë grupin. Në një listë kontrolli pranimi (pa citime të shpikura, pa statistika të pambështetura, të pranishme etiketa të njohura/të supozuara/të hamendësuara, pyetje të hapura që emërtojnë boshllëqet), 7 nga 8 draftet e bazuara kaluan në shqyrtimin e parë kundrejt 2 nga 8 drafteve të bazuara. Kufizime: mostër e vogël, një analist, një lloj përmbledhjeje; konkurrentët e lehtë me çmime të qarta publike zvogëlojnë hendekun; "koha e verifikimit" përfshinte kërkimet në internet për tituj të dyshimtë.

Për të matur versionin tuaj: kryeni 5 analiza të shkurtra me zakonin tuaj aktual dhe 5 me burime të ngjitura + citime të shpikura të ndaluara + etiketa pretendimesh; regjistroni kohën mesatare të draftit, kohën mesatare të verifikimit dhe shkallën e kalueshmërisë në listën e kontrollit me emëruesin e treguar.

Çfarë mund të shkojë keq

• Paragjykimi i rrjedhshmërisë: Gramatika perfekte dhe pikat e rregullta të bëjnë të anashkalosh kontrollin e papritur.
• Cosplay me citime: Kërkimi i "burimeve" pa material të ngjitur fton formën e bursës pa një regjistrim përputhës.
• Lista të tepërta: Shpërblime plotësuese "Më jep dhjetë studime" kur në shënimet e tua ekzistojnë vetëm tre.
• Rindërtimi i të gjithë esesë: Pas një rreshti të rremë, kërkoni një rishkrim të ngushtë të asaj pjese - jo një rregullim të ri.
• Tema me rrezik të lartë: Shëndetësia, ligji, financat dhe pajtueshmëria kanë nevojë për porta njerëzore më të forta sesa një përmbledhje e shkurtër e temës së diskutimit të shitjeve.
• Pa ciklin njerëzor: Një draft i etiketuar mund ta lexojë gabim një fjali të ngjitur. Sami ende zotëron butonin e ndarjes.

Përgatitje praktike për të marrë me vete

IA shpik gjëra sepse parashikon gjuhën e besueshme në boshllëqe - jo sepse dëshiron t'ju mashtrojë. Trajtojeni rrjedhshmërinë si stil, jo si provë. Ngjitni gardhin, ndaloni burimet e rreme, etiketoni pasigurinë, kontrolloni menjëherë pretendimin më të mprehtë dhe korrigjoni temën kur diçka lëkundet. Kështu e ruani avantazhin e një partneri të shpejtë në hartim pa dërguar një histori të sigurt që nuk ka ndodhur kurrë.

Pyetje të shpeshta

Pse ndonjëherë shpik gjëra IA?

Shumica e modeleve të bisedave janë makina modelesh: ato gjenerojnë një përgjigje që i përshtatet formës së një përgjigjeje të mirë, jo një dollapi të verifikuar arkivimi të etiketuar si E Vërteta. Boshllëqet mbushen me çfarëdo që tingëllon statistikisht e saktë - një citat që duket akademik, një numër i rregullt ose një detaj që i përshtatet epokës. Teksti i rrjedhshëm është qëllimi i gjenerimit, kështu që "tingëllon saktë" mund ta mposhtë "është e saktë". Kjo është arsyeja pse përgjigjet e shpikura shpesh vijnë me gramatikë të përsosur dhe pika të rregullta.

A është besimi në IA i njëjtë me saktësinë?

Jo. Besimi dhe saktësia janë tregues të ndryshëm - njëri mund të jetë i lartë ndërsa tjetri afër zeros. Rezultatet e paracaktuara shpesh lexohen si një informim i sigurt sepse trajnimi shpërblen përsosmërinë e dobishme, jo sepse çdo pretendim ishte i bazuar. Trajtojeni formulimin pohues si stil, jo si provë. Nëse një përgjigje nuk ka burime të verifikueshme, asnjë pasiguri dhe shumë emra ose numra specifikë, ngadalësoni.

Pse chatbot-et shpikin citime dhe burime të rreme?

Forma e citimit është e zakonshme në tekstin e trajnimit, kështu që kërkimi i "burimeve" mund të prodhojë formën e një studimi shkencor pa nxjerrë një të dhënë të vërtetë - si të nxjerrësh një faturë nga kujtesa. Titujt e punimeve të rreme, emrat e revistave, URL-të dhe citimet e atribuara shpesh duken mjaftueshëm profesionalë për të mashtruar përdoruesit e faqeve të internetit. Kërkoni tituj që mund t'i kërkoni vetë; nëse një burim nuk mund të gjendet shpejt, trajtojeni pretendimin si të pambështetur.

Kur është rreziku më i lartë i shpikjes së inteligjencës artificiale?

Rreziku rritet për tema specifike, të kohëve të fundit ose shumë specifike, dhe kur këmbëngulni për numra të saktë, dokumente të emërtuara, informacione të brendshme private ose lista të gjata studimesh të rishikuara nga kolegët. Fushat me rrezik të lartë përfshijnë shëndetin, ligjin, financat, pajtueshmërinë, sigurinë, njerëzit e emëruar dhe statistikat e sakta. Shkëmbimi i ideve, skicimi, rishkrimi i draftit tuaj dhe redaktimet e tonit zakonisht kanë rrezik më të ulët. Përgjigjet e gjata mbresëlënëse gjithashtu mund të duken më të sigurta nga ç'janë në të vërtetë.

Si mund t’i dalloj përgjigjet e shpikura të inteligjencës artificiale pa kontrolluar çdo fjalë?

Kontrolloni menjëherë cepin më të mprehtë - numrin, emrin, politikën ose citimin. Nëse kjo dështon, lëreni pjesën tjetër në provë. Kini kujdes për kontradiktat e brendshme dhe paketimin "shumë të përsosur" pa paralajmërime ose kompromise. Pyetni se për çfarë është më pak i sigurt modeli, kontrolloni emrat dhe titujt jashtë bisedës dhe preferoni përgjigjet e lidhura me tekstin që keni ngjitur në vend të fakteve që qarkullojnë lirshëm.

Cilat zakone të shpejta zvogëlojnë halucinacionet e inteligjencës artificiale?

Nuk mund t’i eliminosh halucinacionet me një fjali magjike, por mund ta zvogëlosh rrezen e shpërthimit. Përqendroje njohuritë në shënime të ngjitura dhe thuaj "Nuk e di" kur diçka mungon. Ndalo citimet, citimet dhe URL-të e shpikura. Detyro etiketa si të njohura / të nxjerra nga konkluzioni / të hamendësoj, kërko supozime dhe prefero strukturën e pretendimit/provave. T’i thuash modelit se është në rregull të thuash "Nuk e di" zvogëlon presionin për të kryer siguri të rreme.

Çfarë do të thotë tokëzimi kur përdoret inteligjenca artificiale për punë faktike?

Mbështetja në themel e lidh përgjigjen me diçka jashtë improvizimit të modelit - dokumentin tuaj të politikave, spreadsheet-in, shënimet e takimit ose një faqe publike që do ta kontrolloni vetë. Kur përgjigjet duhet të qëndrojnë brenda atij gardhi, shpikja ka më pak hapësirë. Ndjekjet veprojnë si një gardh i dytë: pyesni se nga ka ardhur një numër, cila pjesë është përfundim ose rishkruani pa studime të emërtuara. Mbani një njeri në dijeni për vendime me rrezik të lartë.

Çfarë duhet të bëj kur më kap një halucinacion gjatë bisedës?

Thirreni, rilidhuni me dokumentin ose të dhënat e vërteta dhe rindërtoni vetëm pjesën e prishur në vend që të kërkoni një ese krejtësisht të re dhe të lëmuar. Kontrolloni përsëri skajet e mprehta - emrat, numrat, hapat e procesit - pastaj vendosni nëse mjeti është një partner për shkëmbim idesh, asistent për hartimin e draftit apo "jo për këtë temë". Kufizimet më të qarta ndryshojnë atë për të cilën optimizon modeli; drejtohuni më fort kur shfaqet shpikje.

Si mund t’i ndaloj citimet e shpikura në një përmbledhje kërkimore të konkurrentëve?

Ngjitni shënimet e burimeve që keni tashmë, ndaloni burimet e rreme dhe statistikat e pambështetura dhe kërkoni etiketa të njohura/të nxjerra nga konkluzioni/të hamendësuara plus një listë me pyetje të hapura. Kontrolloni së pari pohimin më të rrezikshëm, kryeni një kalim dyshimesh që heq hamendësimet pa mbështetje dhe rishkruani vetëm pjesën e thyer nëse një numër nuk mbështetet. Pranimi do të thotë që çdo pikë "e njohur" lidhet me një vijë të ngjitur dhe çdo titull i mbetur kontrollohet nga një njeri.

Kur është ende në rregull të lejojmë inteligjencën artificiale të shpikë lirisht?

Shkrimi krijues dhe detyra të tjera me rrezik të ulët mund të shpikin lirisht metafora - ky është fusha e lojërave. Përputhni kujdesin me pasojën: nëse fjalët e gabuara kushtojnë para, besim, nota ose siguri, verifikimi nuk është opsional. Nëse kushtojnë vetëm një ngritje shpatullash, lirohuni. Rrjedhshmëria nuk është një referencë për personazhin; trajtojeni modelin si një praktikant të shpejtë që ende ka nevojë për mbikëqyrje në punën faktike.

Referencat

1. OpenAI - openai.com
2. Antropik - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. AI i Google - ai.google.dev
6. Google Cloud - Tokëzim - docs.cloud.google.com