Çfarë nuk duhet të vendosni kurrë në inteligjencën artificiale

Çfarë nuk duhet të vendosni kurrë në inteligjencën artificiale [Video dhe kuiz]

Përgjigje e shkurtër: Mos vendosni kurrë fjalëkalime, çelësa API, ID, të dhëna shëndetësore ose bankare, skedarë klientësh NDA ose të dhëna të personave të tjerë në një bisedë publike të inteligjencës artificiale. Kur keni nevojë për ndihmë, përshkruani problemin me zëvendësues dhe fragmente të redaktuara - modeli ka nevojë për formën e problemit, jo për sekretet që zhbllokojnë sisteme reale.

Përmbledhjet kryesore:

Sekretet qëndrojnë jashtë linje: Mos ngjit kurrë fjalëkalime, tokena, cookie ose fraza fillestare në një kërkesë.

Hiq identitetin: Ndërro emrat e vërtetë, adresat dhe numrat e identifikimit me role dhe emra të rremë.

Konfidencialiteti i punës: Mbajini draftet e NDA-së, skedarët e klientëve dhe planet e papublikuara larg bisedave me konsumatorët.

Kufiri i pëlqimit: Mos ngjitni të dhënat personale të kolegëve, klientëve ose fëmijëve pa një cikli vetëm për njerëzit.

Redaktoni së pari: Përdorni vendmbajtës dhe fragmente të pastruara; rrotulloni çdo gjë që keni publikuar tashmë.

Çfarë nuk duhet të vendosni kurrë në inteligjencën artificiale

Ne ngjisim fillimisht dhe mendojmë më vonë. Një chatbot rri aty si një praktikant i duruar me kafe të pafundme, kështu që ndihet pothuajse e padëmshme ta hedhësh të gjithë problemin e ngatërruar në kuti. Një hyrje që nuk do të funksionojë. Një klauzolë kontrate që të bën të ndihesh keq. Një pamje e ekranit të një paneli me çdo emër ende të dukshëm. Mjeti është i dobishëm, atmosfera ndihet private dhe truri yt e arkivon atë në heshtje pranë "shënimeve që shkrova për veten time"

Ky është kurthi. 🧠 Chati nuk është një sirtar i mbyllur. Është një bisedë me një sistem që ruan, përpunon dhe ndonjëherë stërvitet mbi atë që dërgoni, varësisht nga produkti, cilësimet dhe nëse i keni vënë re cilësimet. Nuk jam këtu për t'ju futur në panik dhe për t'ju futur në një bunker. Jam këtu me një hartë praktike të asaj që NUK DUHET ta vendosni KURRË në IA, plus zakonet e thjeshta, por praktike, që ju lejojnë të merrni përgjigje të mprehta.

Mendojeni si të thuash me zë të lartë një sekret në një kuzhinë të mbushur me njerëz. Jo çdo i huaj po dëgjon. Megjithatë, disa prej tyre mund të jenë. Dhe kuzhina mban një regjistrim për arsye që nuk janë kurrë aq të thjeshta sa teksti i marketingut i bën të duken.

Pse i hedhim të gjitha në kutinë e bisedës

Shpejtësi. Kjo është pjesa më e madhe e saj. Je bllokuar, gabimi është i shëmtuar dhe ngjitja e të gjithë regjistrit duket më e shpejtë sesa heqja e tij. Konteksti duket si mirësi ndaj modelit. Më shumë detaje, ndihmë më e mirë; ky është folklori, dhe është gjysmë i vërtetë.

Gjysma tjetër është emocionale. Një chatbot nuk ngre asnjë vetull. Nuk do t'i tregojë menaxherit tuaj. Nuk do të thashetheme në drekë. Pra, ne e trajtojmë atë si një ditar me superfuqi. Unë e kam bërë këtë. Ju ndoshta e keni bërë këtë. Në momentin që diçka është njëkohësisht e përshtatshme dhe jo gjykuese, instinktet tona të privatësisë shkojnë në një pushim çaji.

Ja e vërteta paksa bezdisëse: modeli nuk ka nevojë për detajet tuaja të përditshme për t'ju ndihmuar. Ka nevojë për një formë të problemit. Emrat, tokenët, numrat e llogarive dhe fytyrat në pamjet e ekranit janë zbukurime. Zbukurim i shijshëm. Ende zbukurim.

  • Ti ngjit sepse redaktimi të duket si punë shtesë.
  • Ti ngjit sepse "vetëm këtë herë" është një zakon i maskuar.
  • Ti e ngjit sepse ndërfaqja duket si një DM privat dhe sillet si një kabinet arkivimi.

Asnjë nga këto nuk të bën të pamatur. Të bën njeri. Zgjidhja është një pauzë dy-sekondashe, jo një transplantim personaliteti.

Fjalëkalimet, çelësat API dhe sekretet që duhet të qëndrojnë jashtë linje 🔐

Nëse mund të zhbllokojë diçka, nuk i përket një njoftimi. Fjalëkalime. Kode njëpërdorimëshe. Cookie-t e sesionit. Çelësa SSH. Vargjet e lidhjes së bazës së të dhënave. Çelësi API që i premtuat vetes se do ta rrotullonit "së shpejti". Frazat fillestare të portofolit. Certifikatat private. Pyetja e rikuperimit që banka juaj ende e mendon të zgjuar.

Më parë i mendoja çelësat si çelësat e shtëpisë në një grep pranë derës. Metaforë e lezetshme; shpërbëhet menjëherë, sepse një çelës shtëpie hap një derë dhe një çelës API mund të hapë një depo, një llogari faturimi dhe një grumbull të dhënash klientësh që i ke harruar se i ke ruajtur. Krijimi i kopjeve rezervë: trajtoji sekretet si radioaktive. Nuk vendos gjëra radioaktive në makinën e sanduiçëve, edhe nëse makina e sanduiçëve është shumë e mirë në përgatitjen e sanduiçëve.

Një model nuk mund ta "mbajë këtë mes nesh" në mënyrën që mund ta bëjë një mik. Edhe nëse një shitës ofron kontrolle të memories, edhe nëse e çaktivizon trajnimin, teksti vazhdon të udhëtojë, regjistrohet në një farë forme dhe mund të qëndrojë në historikun e bisedës derisa të shkosh ta kërkosh. Supozo se një ngjitje është një kopje që nuk e kontrollon më plotësisht.

Çfarë të bësh në vend të kësaj

  • Përshkruani sekretin sipas llojit, jo sipas vlerës. "Një URL Postgres me një fjalëkalim brenda" është e mjaftueshme për këshilla për debugging.
  • Redaktoni me zëvendësues të dukshëm: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Rrotulloni çdo gjë që keni publikuar tashmë. Bëjeni tani, jo pasi të "shihni nëse ndodh ndonjë gjë"
  • Mbajini kredencialet e vërteta në një menaxher fjalëkalimesh ose në një kasafortë sekretesh; kurrë në një fije diskutimi që mund të bëni një pamje të ekranit më vonë.

Nëse një mjet ju kërkon të ngjisni një çelës në mënyrë që të mund të "lidhet për ju", kjo është një kategori tjetër produkti. Ky është një integrim me qasjen, jo një asistent shkrimi. Trajtojeni sikur t'i jepni dikujt distinktivin tuaj.

Identifikuesit personalë dhe gjurma e qetë e identitetit 🪪

PII është kushëriri jo shumë i zakonshëm i fjalëkalimeve. Numrat e identifikimit kombëtar. Detajet e pasaportës. Fushat e identitetit që lidhen me datën. Adresat e shtëpisë. Numrat e telefonit. ID-të e punonjësve. Numrat e studentëve. Emrat e plotë ligjorë të shoqëruar me datat e lindjes, emrat e shkollave ose klinikat mjekësore. Një pjesë duket e vogël. Tre pjesë së bashku përbëjnë një dosje.

Njerëzit e bëjnë këtë kur duan të shkruhet një letër, të përkthehet një formular ose të përpunohet një CV. Synime krejtësisht të arsyeshme. Modeli nuk ka nevojë për kodin postar të vërtetë për të hartuar një ankesë të sjellshme. Ai ka nevojë për tonin, faktet që nuk janë identifikuese dhe rezultatin që dëshironi.

Mendoj se pjesa çuditërisht ngjitëse janë kombinimet "e padëmshme". Një titull unik pune plus një qytet plus shkollën e një fëmije plus një gjendje të rrallë mjekësore. Nuk do ta vendosje këtë në një fletushkë. Një kuti bisede nuk është fletushkë, por nuk është as një kasafortë.

  • Ndërroni emrat e vërtetë me role: "menaxheri i punësimit", "mjeku im i familjes", "një qiramarrës"
  • Përgjithësoni vendndodhjet: "një qytet i madhësisë mesatare", jo rrugën dhe kodin e ziles.
  • Hidhni numra unikë përveç nëse detyra ka të bëjë fjalë për fjalë me formatin e numrave, në të cilin rast përdorni një të rremë që duket mjaftueshëm i vërtetë.

Anonimizimi nuk është doktoraturë. Është një zakon për të kontrolluar nëse një i huaj mund t'ju zgjedhë nga një listë nga ky paragraf. Nëse mundet, shkurtojeni.

Punë konfidenciale, marrëveshje konfidenciale dhe gjëra për të cilat shefi juaj do të ndihej i turpëruar 📎

Këtu është vendi ku ndihma i fut njerëzit në telashe. Ju ngjisni një paketë klientësh. Një plan veprimi të papublikuar. Një fletëllogaritëse page. Kod burimor me emra të brendshëm host-esh. Një draft ligjor që është ende i shënuar si konfidencial. Shënime takimesh me emrat e njerëzve që nuk janë njoftuar ende. Marrëveshjen e Kontabilitetit që e nënshkruat me nxitim sepse kafeja po ftohej.

Chatbot-et nuk janë këshilltarët e kompanisë suaj dhe nuk janë një tavolinë pune e sigurt, përveç nëse organizata juaj e ka krijuar një të tillë vërtet. Mjetet e konsumatorit janë ndërtuar për lehtësi. Mjetet e ndërmarrjeve mund të jenë më të mira, me kontrolle të mbajtjes së të dhënave dhe politika administrative; ato prapëseprapë nuk janë një arsye për të kërkuar një diplomë të shkëlqyer për një kalim gramatikor.

Një rregull praktik që e mbaj mend: nëse nuk do ta vendosje në një draft personal në Gmail, mos e vendose në një bisedë publike me inteligjencën artificiale. Nëse nuk do ta thuash në një udhëtim me makinë, e njëjta gjë. Njerëzit që janë të kujdesshëm në Slack bëhen poetë të ndarjes së tepërt sapo shfaqet një buton gjenerimi.

Zgjidhje më të sigurta

  • Përshkruani dokumentin: gjatësinë, audiencën, tre pikat që kanë rëndësi, tonin që ju nevojitet.
  • Ngjit një fragment të pastruar. Hiq emrat, figurat e ndjeshme dhe çdo gjë për të cilën një konkurrent do të përkëdhelte.
  • Kërko një strukturë ose një model rishkrimi, pastaj zbatoje vetë në tekstin e vërtetë jashtë linje.
  • Përdorni një mjet të miratuar për vendin e punës nëse keni një të tillë, dhe prapëseprapë redaktoni si parazgjedhje. Politika është një dysheme, jo një trampolinë.

Kodi është një nuancë e veçantë e kësaj. URL-të e brendshme, titujt e autorizimit dhe komentet si "TODO: hiq para blerjes" janë etiketa të vogla dhuratash. Krijoni të dhënat simuluese. Ruani logjikën. Modeli i trajton mirë të dhënat simuluese; nuk ka nevojë për skemën tuaj të prodhimit me email-e të klientëve të vërtetë të vendosura ende në një pajisje të integruar.

Shëndet, para dhe detaje që nuk do t'i bërtisje nëpër një kafene 💊

Detajet mjekësore dhe financiare duken urgjente, kështu që ngjiten me më pak ndryshime. Rezultatet e laboratorit. Listat e recetave. ID-të e sigurimeve. Pasqyrat bankare. Letrat tatimore. Raportet e kreditit. Një foto e një karte "vetëm për katër shifrat e fundit", e cila në një farë mënyre përfshin pjesën tjetër të kartës, tryezën tuaj të kuzhinës dhe një copë postë me emrin e dikujt tjetër.

Mund të bësh pyetje të shkëlqyera pa të dhëna të papërpunuara. "Shpjego çfarë mund të nënkuptojë një shënues i ngritur në terma të përgjithshëm" është një pyetje e thjeshtë. "Ja ku është paneli im i plotë, adresa ime, klinika ime dhe mbiemri i vajzërisë së nënës sime" është një biografi.

Nuk po them të mos flasësh kurrë për shëndetin apo paratë me një model. Po them ta trajtosh chatbot-in si një të huaj të lexuar mirë në tren. I mirë për ta inkuadruar. I tmerrshëm si kontabilisti yt, klinicisti yt ose arkivi yt. Dhe po, e di që metafora e të huajit të lexuar mirë rrjedh; trenat nuk mbajnë regjistra bisedash. Ky është pak a shumë qëllimi.

  • Hiqni numrat e llogarive, kodet e renditjes, IBAN-et dhe çdo gjë që duket si një kredencial.
  • Kërkoni shpjegime të përgjithshme, lista kontrolli dhe pyetje për t'ia çuar një profesionisti.
  • Mos e përdorni chat-in si dollap arkivimi për deklaratat "në mënyrë që t'i pyes më vonë". Kjo më vonë është mënyra se si ruajtja e të dhënave bëhet problem.

Nëse një kërkesë do t'ju bënte të ulnit zërin në një kafene, redaktojeni më parë. Ky test është çuditërisht i besueshëm dhe nuk kushton asgjë.

Të dhënat e të tjerëve nuk janë tuajat për t'i ngjitur 🚫

Kjo anashkalohet sepse të jep ndjesinë sikur je protagonisti i bisedës. Nuk je i vetmi person në pamjen e ekranit. Emailet e kolegëve. ID-ja e një partneri. Ankesa e një klienti me numrin e telefonit ende të bashkangjitur. Fotot e fëmijëve. Një postim në Slack që përmend se kush pothuajse u pushua nga puna. Një transkript i regjistruar i një telefonate që personi tjetër nuk e dinte do t'i jepej një modeleje.

Pëlqimi nuk kalon automatikisht nga "më dërguan email" në "një makinë mund ta ruajë këtë". Edhe nëse qëllimi juaj është i mirë - të hartoni një përgjigje më të mirë, të përmbledhni një fije diskutimi të ngatërruar - ngarkesa e papërpunuar është prapëseprapë jeta e tyre, jo letra juaj e parë.

Një provë paksa sarkastike: nëse nuk do ta përcillnit të njëjtën pikë informacioni te një listë postare me të huaj "për reagime", atëherë mos e trajtoni një chatbot si një listë postare më të vogël me sjellje më të mira.

  • Përmbledhni njerëzit e tjerë me fjalët tuaja.
  • Zëvendësoni emrat me role dhe hiqni të dhënat e kontaktit.
  • Pyete personin nëse detyra është e ndjeshme; disa gjëra duhet të mbeten në një cikël vetëm për njerëzit.
  • Mos ngjisni kurrë të dhënat personale të fëmijëve, të dhënat shkollore ose fotot identifikuese për një brez "argëtues".

Ekziston një shtresë ligjore këtu që nuk do të pretendoj ta ngre në gjyq me zë blogu. Rregullat e privatësisë, detyrimet e punësimit dhe kontratat e klientëve kanë të gjitha mendime. Zakoni praktik është më i thjeshtë se ligji: të dhënat e të tjerëve nuk shfaqen në kërkesë.

Çfarë nuk duhet ta vendosni kurrë në inteligjencën artificiale: një tabelë rreziku që mund ta vini në punë

Më pëlqejnë tabelat për këtë sepse një listë me "kurrë" mund të tingëllojë predikuese, dhe një rrjetë të lejon të shohësh ndërrimin. Vlerësime paksa të bazuara në opinione, jo një raport laboratori.

Lloji i të dhënave Niveli i rrezikut Pse është problem Alternativë më e sigurt
Fjalëkalime, çelësa API, tokena, fraza fillestare Kritik Ata zhbllokojnë sistemet; një kopje që nuk mund ta kujtoni plotësisht është prapëseprapë një kopje Mbajtës të sekreteve plus një menaxher lokal i sekreteve; rrotullohen nëse zbulohen
Dokumente qeveritare identifikimi, skanime pasaportash, numra kombëtarë Kritik Paketa fillestare për vjedhjen e identitetit; e vështirë për t'u "ç'dërguar" Shembuj të rremë ose pyetje vetëm për formatin
Kartela shëndetësore, receta, identifikime sigurimi I lartë Intime, me ndjesi të rregulluara dhe ngjitëse në histori Simptoma ose tema të përgjithshme; mbajini identifikuesit larg faqes
Pasqyra bankare, dokumente tatimore, foto kartash I lartë Ekspozim i drejtpërdrejtë financiar plus PII shtesë në marzhe Pyetni për proceset, jo për shifrat e papërpunuara të lidhura me ju
Dosjet e klientëve, draftet e NDA-së, planet e papublikuara I lartë Mund të jesh duke shkelur një premtim që ke nënshkruar tashmë Fragmente të dezinfektuara; kërkesa për strukturë; mjete pune të miratuara
Informacione personale të kolegut ose klientit, të dhënat e fëmijëve I lartë Nuk është e jotja ta dhurosh për një modele Përmbledhje të bazuara në role; hiqni kontaktet dhe fytyrat
Burim i brendshëm me emra hostesh dhe email-e të vërteta Mesatare-e lartë Duket si "thjesht kod" derisa dikush të hartëzojë rrjetin tënd Të dhëna të rreme, domene të rreme, komente të zhveshura
Pamje të ekranit të paneleve ose kutive hyrëse Mesatare-e lartë Ata kontrabandojnë emra, numra dhe hapin skeda që i ke harruar se ishe aty Prit, turbullo ose rishkruaj fragmentin përkatës
Histori personale të paqarta pa ID unike Më poshtë Zakonisht në rregull; prapë anashkaloni çdo gjë që nuk do t'i thoshit një të huaji Mbajeni të përgjithshme; anashkaloni kombinimin e rrallë identifikues

Nëse nuk mbani mend asgjë tjetër, mbani mend kolonën e majtë. Kjo është zemra e asaj që NUK DUHET ta vendosni KURRË në inteligjencën artificiale kur jeni me nxitim dhe truri juaj dëshiron ta ngjisë universin.

Kurthet e pamjeve të ekranit dhe shpërndarja aksidentale e tepërt 🖼️

Pamjet e ekranit janë mënyra se si njerëzit e mirë rrjedhin informacione. Doni të tregoni një dialog gabimi. Kapja përfshin shiritin e faqeshënuesve, një distinktiv Slack me një emër, një URL me një token, një dritare kalendari, një reflektim në një dritare të modalitetit të errët që rezulton të jetë një menaxher fjalëkalimesh. Kam prerë një fotografi dhe prapë nuk e kam parë ndërruesin e vogël të llogarive në cep. Është një zhanër gabimi.

Fotot e dokumenteve janë më të këqija, sepse kamerat janë bujare. Një tavolinë, një tabelë e bardhë, një rrip dore spitali, një etiketë transporti. Modeli mund të mos "ketë nevojë" për pikselët shtesë. Pikselët prapë mbërrijnë.

Një ritual i thjeshtë për krijimin e një pamjeje të ekranit të ekranit

  • Priteni së pari. Pastaj priteni përsëri. Pastaj shikoni skajet sikur të kanë borxhe.
  • Mjegulloni emrat, email-et, avatarët dhe çdo varg që duket si një token.
  • Preferoni ta rishtypni gabimin në vend që të kapni të gjithë IDE-në.
  • Mos ngarkoni një foto të një karte, pasaporte ose bilete imbarkimi "për ta lexuar shpejt". Në vend të kësaj, shkruani pyetjen.

Shënimet zanore dhe ngarkimet e skedarëve luajnë të njëjtin funksion. Një regjistrim takimi është një bufetë me të dhëna të njerëzve të tjerë. Një CSV është një bufetë me rreshta që nuk i shihni më si persona. Nëse skedari do ta bënte legalin nervoz, ai nuk do të futej në kuti.

Modele më të sigurta nxitjesh që ju japin përgjigje të forta ✨

Redaktimi nuk është armiku i cilësisë. Nxitëset e paqarta po. Mund të jesh specifik në lidhje me problemin dhe koprrac në lidhje me identitetin. Ky është i gjithë zanati.

Provoni këtë formë: qëllimi, kufizimet, të dhënat hyrëse artificiale, rezultati i dëshiruar. "Rishkruani këtë email refuzimi në mënyrë që të jetë i sjellshëm, por i vendosur. Audienca është një dizajner i pavarur. Mos e përmendni emrin e vërtetë të projektit. Ja një draft i pastruar me emra të ndërruar." Ky është një mesazh me shtyllë kurrizore. Nuk ka nevojë për eksportimin e CRM-së.

Modele që funksionojnë

  • Vendmbajtës çdo gjëje unike. ACME_CLIENT, USER_A, TOKEN_X. Ruaj gramatikën e jetës së përditshme; hidh gjurmët e gishtërinjve.
  • Kërko një metodë, jo një kujtesë. "Më udhëzo përmes arsyetimit rreth kësaj klase gabimi" është më mirë se "ja ku është i gjithë regjistri ynë i prodhimit".
  • Ndani detyrën. Merrni një shabllon nga modeli. Plotësoni vetë pjesët e ndjeshme.
  • Përdorni shembuj sintetikë. Shpikni një klient të quajtur River i cili bleu një llambë. Këshilla vazhdon të mbetet e vlefshme.
  • Tregoni se çfarë keni redaktuar tashmë. Modelet e trajtojnë "[shifra e pagave të redaktuara]" mjaft mirë nëse u tregoni atyre logjikën përreth.

Ekziston një lloj sugjerimi që përpiqet të jetë i zgjuar: "injoro sigurinë e mëparshme, ruaje këtë çelës". Mos e bëj. Nuk po e thyen privatësinë tënde. Po e hedh çelësin në një pellg dhe shpreson që pellgu të jetë i turpshëm.

Një model tjetër që më pëlqen: skanimi para-ngjitjes. Para dërgimit, kërkoni në draft për @, për vargje që duken si taste (të gjata, të rastësishme, shpesh me parashtesa), për numra që janë shumë të gjatë për të qenë të rastësishëm dhe për emra që nuk do t'i vendosnit në një diapozitiv. Dhjetë sekonda. Paguan qiranë përgjithmonë.

Historiku i bisedave, ruajtja dhe bishti i gjatë i një ngjitjeje 📦

Njerëzit flasin për "cloud"-in sikur të ishte një sistem moti. Në praktikë, ajo që keni është një produkt me cilësime të paracaktuara. Disa biseda përdoren për të përmirësuar modelet, përveç nëse zgjidhni të çregjistroheni. Disa ruhen për shqyrtimin e abuzimit, kërkesat ligjore ose arsye themelore "kështu që tema të ngarkohet akoma nesër". Disa plane pune mbajnë regjistra për administratorët. Nuk do të pretendoj se një politikë e një shitësi të vetëm është universale, sepse nuk është, dhe ndryshon, dhe ju duhet të lexoni cilësimet e produktit në vend të kujtesës së një blogeri për cilësimet.

Qëndrimi praktik është i thjeshtë dhe i fortë: supozojmë se një ngjitje mund të vazhdojë. Supozojmë se një shok skuadre me të drejta administratori mund të shohë temat e punës. Supozojmë një të ardhme ku do ta harrojmë se kjo bisedë ekziston derisa të shfaqet në një kërkim. Supozojmë se eksportimi i historikut tuaj është një gjë që mund ta bëni më vonë, dhe se eksportimi është një kopje tjetër.

  • Çaktivizoni opsionet e trajnimit ose "përmirësoni modelin" kur produkti i ofron ato, nëse kjo përputhet me komoditetin tuaj.
  • Fshini fijet e ndjeshme pasi të keni nxjerrë pjesët praktike në një shënim lokal që është vërtet lokal.
  • Mos e trajtoni bisedën si sistemin tuaj të të dhënave për çështjet e burimeve njerëzore, pyetjet mjekësore ose punën me klientët.
  • Kini kujdes me llogaritë e përbashkëta. Llogaritë e përbashkëta janë mënyra se si "privatja" shndërrohet në folklor të zyrës.

Veçoritë e kujtesës - ato që të kujtojnë punën, qenin, tonin tënd të preferuar - janë të dobishme dhe paksa të frikshme. Ato janë gjithashtu një arsye për të mos i mësuar sistemit identifikuesit e tu të vërtetë "në mënyrë që të jetë më personal". Personal është një stil. Nuk është numri yt i sigurimeve kombëtare.

Normat e vendit të punës kur ekipi juaj jeton në chatbote 🏢

Zyrat janë vendi ku zakoni i ngjitjes bëhet industrial. Dikush hedh një skedar CSV të klientit për të "pastruar kolonat". Dikush tjetër hedh një dokument strategjie për ta "bërë më të fuqishëm". Një praktikant me qëllime të mira ngjit kanalin e incidentit. Askush nuk është keqbërës. Stimujt janë të gjitha shpejtësi dhe shkëlqim.

Nëse udhëhiqni një ekip, shkruani një rregull të shkurtër dhe njerëzor. Jo një politikë 40-faqëshe që askush nuk e lexon. Diçka si: pa kredenciale, pa të dhëna personale personale të klientit, pa numra të papublikuar, pa drafte ligjore, përdorni mjetin e miratuar, redaktoni si parazgjedhje. Pastaj tregoni një shembull të një kërkese të mirë të pastruar në mënyrë që njerëzit të mos hamendësojnë.

  • Emërtoni mjetin e miratuar, nëse keni një të tillë, dhe ato të pamiratuara.
  • Jepni një listë kontrolli për redaktimin që njerëzit mund ta përfundojnë para një stand-up-i.
  • Bëjeni të sigurt të thoni "Gati sa nuk e ngjita atë" pa ndonjë hetim teatral.
  • Kujtojuni njerëzve se "IA tha që ishte në rregull" nuk është një kontroll.

Nëse nuk udhëheq një ekip, prapë mund të jesh personi që ngjis një kukull. Kultura është ngjitëse në të dyja drejtimet. Mendoj se kjo tingëllon serioze. Është gjithashtu mënyra se si lëvizin normat; një person ndalon së hedhuri çelësat dhe dhoma bëhet pak më pak e çrregullt.

Teatri i prokurimit është një detyrë anësore që do ta anashkaloj. Blerja e një mbështjellësi "ndërmarrjeje" nuk i bën magjikisht të gjitha kërkesat të mençura. Mund të ndihmojë me ruajtjen e informacionit dhe aksesin. Zakonet tuaja ende e bëjnë punën e rëndë.

Ke ngjitur tashmë diçka të çuditshme - tani çfarë 🧯

Ndodh. Ti shtyp butonin “dërgo” dhe shpirti yt del nga trupi yt. Mos bëj spirale. Bëj një sekuencë të shkurtër, paksa jo tërheqëse.

  • Ndalo së përdoruri atë sekret. Ndërro fjalëkalimin, anulo çelësin, anuloje seancën. Ky është i vetmi hap që e mbyll derën përgjithmonë.
  • Fshijeni bisedën nëse produkti ju lejon dhe zbrazni çdo xhep "të fshirë së fundmi" nëse ka një të tillë.
  • Kontrolloni aplikacionet dhe memorien e lidhur. Disa mjete i mbajnë fragmentet në memorie ose skedarët e projekteve që keni harruar t'i keni aktivizuar.
  • Thuaji personit të duhur nëse ishin të dhëna pune. Sigurisë, një menaxheri, një klienti kryesor; kushdo që zotëron rrezen e shpërthimit. Të zbulohesh herët është më pak e dhimbshme sesa të zbulohesh më vonë.
  • Kushtojini vëmendje hyrjeve të pazakonta në llogaritë përkatëse. Rotacioni pa monitorim është gjysma e punës.

Nëse ishin të dhënat e dikujt tjetër, i detyrohesh edhe një pastrim dhe, varësisht nga rrëmuja, një njoftim paraprak. Siklet. Edhe më mirë sesa të shpresosh që universi të jetë i sjellshëm.

Mos u përpiq ta "mbishkruash" një rrjedhje informacioni duke ngjitur më shumë shpjegime. Konteksti shtesë është kopje shtesë. Dil nga tema.

Duke e bashkuar

Versioni i shkurtër i librit "Çfarë nuk duhet të vendosni kurrë në inteligjencën artificiale" nuk është një listë qortimi. Është një qëndrim. Nëse zhbllokon një sistem, identifikon një person ose do t'ju bënte të dridheshit në një kafene, ajo mbetet jashtë kutisë. Mund të merrni ende ndihmë të shkëlqyer. Thjesht i jepni modelit një skicë, jo çelësat e shtëpisë, dosjen mjekësore dhe postën e fqinjit.

Përmbledhje e shpejtë:

  • Pa fjalëkalime, çelësa, tokena ose fraza fillestare. Rrotullojeni nëse keni rrëshqitur.
  • Asnjë dokument identifikimi i vërtetë, të dhëna të plota financiare, të dhëna shëndetësore të papërpunuara apo material për marrëveshje konfidencialiteti.
  • Asnjë detaj privat i personave të tjerë, veçanërisht i fëmijëve.
  • Pamjet e ekranit qëndrojnë te përfshirja; pritini sikur ta keni parasysh.
  • Redaktoni, bëni modele dhe kërkoni metoda. Problem specifik, etiketa të rreme.
  • Supozoni se historia mbetet. Fshijini, mos i arkivoni sekretet në një chatbot.
  • Vendet e punës kanë nevojë për një rregull të shkurtër dhe një shembull të mirë, jo për një atmosferë privatësie të rastësishme.

Përdor mjetet. Ato janë të shkëlqyera në skica, korrigjimin e formave dhe në bindjen ndaj një gabimi konfuz. Thjesht mos e trajto kutinë e tekstit si një kasafortë me sens humori. Është një blender shumë i zgjuar. Megjithatë, nuk duhet ta fusësh pasaportën në një blender. 🫡

Shembull praktik: Ndërtimi i një përmbledhjeje të debugimit me redaktimin e parë për një ekip të vogël inxhinierik

Rregullat e privatësisë zbatohen kur shpëtojnë një të martë të zakonshme, jo kur tingëllojnë të ashpra. Ja se si një ekip SaaS me pesë persona në Mbretërinë e Bashkuar përdori zakonet në këtë udhëzues për të ndaluar hedhjen e kredencialeve dhe të dhënave personale të klientëve në chatbot-et e konsumatorëve - pa hequr dorë nga ndihma për debugging.

Skenari

Zhvilluesit dhe mbështetja ndajnë një zakon të dhimbshëm: kur një gabim autorizimi duket i shëmtuar, dikush ngjit të gjithë regjistrin, një varg lidhjeje në fazë dhe një pamje të ekranit të panelit të administratorit "në mënyrë që modeli të ketë kontekst". Tremujori i fundit përfshinte një çelës API që dukej aktiv në një gjurmë grumbulli dhe një email klienti ende të dukshëm në shiritin e URL-së të një pamjeje të ekranit. Askush nuk donte të dëmtonte. Shpejtësia fitoi. Kuzhina mbajti një regjistrim.

Ata nuk kanë nevojë për një leksion. Ata kanë nevojë për një udhëzim të përsëritshëm: përshkruajeni sekretin sipas llojit, redaktoni me zëvendësues, prisni pamjet e ekranit, kërkoni një metodë jo një kujtim, pastaj aplikoni rregullimin në sistemet live jashtë linje. Chati i konsumatorit ende e meriton jetesën e tij. Çelësat e shtëpisë qëndrojnë jashtë blenderit.

Qëllimi është e njëjta cilësi këshille me një skanim dy-sekondësh para ngjitjes - dhe një rregull të shkurtër ekipi që njerëzit do ta ndjekin.

Çfarë i duhet asistentit

  • Një formë problemi e pastruar: klasa e gabimit, afërsisht kur filloi, mjedisi (stadimi kundrejt prodhimit) pa emra hostesh që hartëzojnë rrjetin
  • Vetëm hyrje artificiale: REDACTED_KEY, USER_TOKEN, customer@example.com, ID kërkesash të rreme
  • Çfarë është hequr tashmë (e deklaruar në kërkesë në mënyrë që modeli të mos kërkojë vlerat e vërteta)
  • Rezultati i dëshiruar: shkaqe të mundshme, kontrolle për t'u ekzekutuar, një skicë e patch-it - jo "lidhu me çelësin tim"
  • Një njeri që mban kredencialet në një menaxher fjalëkalimesh ose në një kasafortë sekretesh
  • Një rregull ekipi me një faqe: pa kredenciale, pa të dhëna personale personale të klientit, pa shifra të papublikuara, redaktuar si parazgjedhje

Shembull udhëzimi

Qëllimi: Më ndihmoni të debugoj një gabim 401 me ndërprerje në API-në tonë të fazës pas një rifreskimi të token-it. Mos më kërkoni të ngjis sekrete.

Kufizime: Unë kam redaktuar tashmë fjalëkalimet, çelësat API, tokenët, cookie-t, emrat e brendshëm të hosteve dhe email-et e klientëve. Vendmbajtësit në regjistër nënkuptojnë se vlerat e vërteta ekzistojnë vetëm në makinën time. Anglishtja e Mbretërisë së Bashkuar. Pa parathënie.

Fragment artificial: Kërkesa për https://api.example-staging.invalid/v1/session ktheu 401. Autorizimi i kokës: Mbajtësi REDACTED_KEY. Trupi përmend USER_TOKEN të skaduar. Përshkrimi i pamjes së ekranit (nuk është bashkëngjitur): vetëm njoftim gabimi; shiriti i faqeshënuesve dhe ndërruesi i llogarisë janë prerë.

Detyrë: Renditni tre shkaqet më të mundshme për këtë klasë gabimi, kontrollet që duhet të kryej në nivel lokal dhe një skicë minimale të patch-it. Nëse keni nevojë për më shumë detaje, kërkoni një lloj informacioni (p.sh. "cilësimi i token TTL") - kurrë për sekretin e papërpunuar.

Rezultati: Shkaqe të numëruara, pastaj një listë kontrolli dhe më pas "çfarë të mos ngjitet herën tjetër" në tre pika.

Si ta testoni

  • Krahasoni një ngjitje të stilit të vjetër (regjistër i plotë + pamje e ekranit) me përmbledhjen e redaktuar më sipër për të njëjtin lloj incidenti. Krahasoni cilësinë e këshillave dhe nëse modeli kërkon sekrete.
  • Skanim para ngjitjes: kërko në draft për @, vargje të gjata të rastësishme dhe numra shumë të gjatë për t'u dukur të rastësishëm përpara se ta dërgosh.
  • Shkrimi në formë të rastit: përfshi një çelës të rremë që duket origjinal dhe konfirmo që përgjigja ende funksionon pa pasur nevojë për vlerën e vërtetë.
  • Madhësia e vogël dhe e vogël: refuzo ngarkimin e një pamjeje të ekranit; rishtyp vetëm rreshtin e gabimit; konfirmo që lista e kontrollit ende ndihmon.
  • Kontrollet e pranimit: (1) zero kredenciale në fije, (2) zero detaje kontakti të klientit, (3) mbajtës të vendeve të deklaruara, (4) rezultati është një metodë/listë kontrolli jo një rrjedhë "ngjit çelësin tënd", (5) nëse ka rrjedhur diçka më parë, rotacioni ka ndodhur po atë ditë.

Rezultati

Rezultati ilustrues (shembull vlerësimi për një ekip të vogël inxhinierik/mbështetjeje, jo një studim i publikuar): Në 12 biseda debugimi në katër javë, koha mesatare për një listë kontrolli të përdorshme u rrit pak nga rreth 4 minuta (ngjitje e plotë) në rreth 6 minuta me redaktim - dy minuta shtesë për skanimin para-ngjitjes dhe zëvendësuesit. Fijet që përmbajnë lloje të të dhënave kritike (çelësa, email-e të klientëve, vargje lidhjesh të papërpunuara) ranë nga 9 nga 12 biseda në 1 nga 12 (ajo u kap në shqyrtim dhe u rrotullua po atë ditë). Në një listë kontrolli të thjeshtë higjiene (pa sekrete, pa PII të klientit, zëvendësues të deklaruar, të prerë ose pa pamje të ekranit), 11 nga 12 udhëzimet e redaktuara kaluan kundrejt 3 nga 12 sipas zakonit të vjetër. Kufizime: mostër e vogël, një ekip, kohë e vetë-raportuar; incidentet më të lehta kanë nevojë për më pak redaktim; "kalon" ishte rishikim nga kolegët i tekstit të kërkesës, jo një auditim laboratorik i regjistrave të shitësve.

Për të matur versionin tuaj: merrni mostra të 10 fijeve të fundit të debugimit të inteligjencës artificiale për llojet e të dhënave të ndaluara, pastaj merrni mostra të 10 pas një rregulli dhe shablloni redaktimi; raportoni numërimet me emërues, plus minutat mesatare nga "i bllokuar" në "listën e kontrollit në dorë"

Çfarë mund të shkojë keq

  • Kontrabandë e pamjes së ekranit: Gabimi është në rregull; shiriti i URL-së ende përmban një token. Prite dy herë, pastaj kontrollo skajet.
  • Çelësat "Vetëm këtë herë": Një çelës API i vetëm i rrjedhur mund të hapë të dhënat e faturimit dhe të klientëve. Ndërrojeni menjëherë; mos prisni për të "parë nëse ndodh ndonjë gjë".
  • Të dhënat e të tjerëve: Një ankesë e klientit me një numër telefoni nuk është e juaja për t'ia dhuruar një modeli. Përmbledhni me fjalët tuaja.
  • Biseda si kasafortë: Lënia e sekreteve në histori krijon një kopje tjetër. Fshini temën pasi të zhvendosni pjesët që ju nevojiten në një shënim lokal.
  • Teatri i ndërmarrjes: Një mjet i miratuar në vendin e punës ndihmon në mbajtjen në punë; nuk e bën të mençur ngjitjen e xhevahireve të kurorës.
  • Anashkalimi i rrotullimit pas një gabimi: Fshirja e bisedës pa revokuar çelësin e lë derën hapur.

Përgatitje praktike për të marrë me vete

Ajo që nuk duhet ta fusësh kurrë në inteligjencën artificiale është më pak një listë qortimi dhe më shumë një qëndrim: nëse zhbllokon një sistem, identifikon një person ose do të të bënte të dridheshe në një kafene, ajo qëndron jashtë kutisë. Jepi modelit një skicë me vendmbajtëse, mbaji kredencialet në një kasafortë dhe kërkoji metodat që aplikon jashtë linje. Kjo pauzë dy-sekondëshe është mënyra se si një praktikant i dobishëm me kafe të pafundme ndalon së qeni një dollap arkivimi për çelësat e shtëpisë tënde.

Pyetje të shpeshta

Çfarë nuk duhet të vendosni kurrë në chatbot-et e inteligjencës artificiale?

Nëse zhbllokon një sistem, identifikon një person ose do t'ju bënte të dridheshit në një kafene, mbajeni larg kutisë. Kjo përfshin fjalëkalime, çelësa API, tokena, fraza fillestare, identifikime qeveritare, të dhëna të papërpunuara shëndetësore dhe financiare, materiale NDA dhe të dhëna private të njerëzve të tjerë - veçanërisht fëmijëve. Chat nuk është një sirtar i kyçur; teksti mund të ruhet, përpunohet dhe ndonjëherë të përdoret për trajnim në varësi të produktit dhe cilësimeve. Jepini modelit një skicë me mbajtës vendesh, jo çelësat e shtëpisë.

Pse njerëzit ngjisin sekrete në inteligjencën artificiale edhe kur dinë më mirë?

Shpejtësia bën pjesën më të madhe të punës: një gabim i shëmtuar e bën të gjithë regjistrin të duket më i shpejtë sesa thjesht ta zhbësh. Chatbot-et gjithashtu duken sikur nuk gjykojnë, kështu që instinktet e privatësisë bëjnë një pushim për çaj. Modeli zakonisht ka nevojë për formën e problemit, jo për emrat, token-et, numrat e llogarive ose fytyrat në pamjet e ekranit - ato janë zbukurime. Një pauzë dy-sekondëshe është më e mirë se një transplantim personaliteti.

A është e sigurt të ngjiten fjalëkalime ose çelësa API në mjetet e stilit ChatGPT?

Jo. Nëse mund të zhbllokojë diçka, ajo nuk i përket një njoftimi - fjalëkalime, kode njëpërdorimëshe, cookie sesioni, çelësa SSH, vargje lidhjeje, farëra portofoli ose certifikata private. Një model nuk mund ta mbajë një sekret si një mik; teksti ende udhëton, regjistrohet dhe mund të mbetet në histori. Përshkruani sekretin sipas llojit, përdorni vendmbajtës si REDACTED_KEY, rrotulloni çdo gjë që është zbuluar tashmë dhe mbani kredencialet e vërteta në një menaxher fjalëkalimesh ose kasafortë.

Çfarë informacioni personal duhet të fshij para se të bëj një kërkesë?

Të dhënat personale grumbullohen shpejt: dokumente identifikimi kombëtare, detaje pasaportash, adresa, numra telefoni, dokumente identifikimi punonjësish ose studentësh dhe emra të plotë të shoqëruar me datat e lindjes ose klinikat. Modeli nuk ka nevojë për një kod postar të vërtetë për të hartuar një letër - ai ka nevojë për ton, fakte jo-identifikuese dhe rezultatin që dëshironi. Ndërroni emrat me role, përgjithësoni vendndodhjet dhe hiqni numrat unikë, përveç nëse po testoni formatin me një shembull të rremë.

A mund të ngjis skedarët e klientit, marrëveshjet e konfidencialitetit ose kodin e brendshëm në një mjet të inteligjencës artificiale për konsumatorët?

Trajtojeni bisedën e konsumatorit si një produkt komoditeti, jo si një këshillim të kompanisë. Nëse nuk do ta vendosnit në një draft personal në Gmail ose nuk do ta thoshit në një udhëtim të përbashkët, mos e vendosni në një bisedë publike me inteligjencën artificiale - grupe klientësh, plane rrugore të papublikuara, fletë pagash, drafte ligjore konfidenciale ose burim me emra të brendshëm hostesh. Përshkruani dokumentin, ngjisni një fragment të pastruar, kërkoni një strukturë që aplikoni jashtë linje dhe përdorni një mjet të miratuar në vendin e punës nëse keni një të tillë, ndërsa ende redaktoni si parazgjedhje.

Si duhet t'i trajtoj detajet shëndetësore ose financiare në kërkesat e inteligjencës artificiale?

Bëni pyetje të shkëlqyera pa të dhëna të papërpunuara. Shpjegimet e përgjithshme janë më të mira se ngjitja e paneleve të laboratorit, listave të recetave, identifikimeve të sigurimeve, deklaratave bankare ose fotove të kartave që gjithashtu kapin tryezën e kuzhinës. Hiqni numrat e llogarive dhe çdo gjë që duket si një kredencial. Përdorni bisedën për të hartuar një kornizë dhe listat e kontrollit për t'ia çuar një profesionisti - jo si klinicisti, kontabilisti ose arkivuesi juaj për deklarata.

Pse të dhënat dhe pamjet e ekranit të njerëzve të tjerë janë veçanërisht të rrezikshme?

Nuk je i vetmi person në këtë ngjitje: emailet e kolegëve, numrat e telefonit të klientëve, fotot e fëmijëve ose transkriptet e thirrjeve mund të futen në një sistem pa pëlqimin e tyre. Përmbledhni me fjalët tuaja, zëvendësoni emrat me role dhe mos ngjitni kurrë detajet identifikuese të fëmijëve për gjenerim "argëtues". Pamjet e ekranit fshehin shiritat e faqeshënuesve, tokenët URL, emrat Slack dhe skedat e hapura - pritini dy herë, turbulloni identifikuesit ose rishtypni gabimin në vend që të ngarkoni pasaportat ose kartat.

Cilat modele më të sigurta të nxitjes marrin ende përgjigje të forta të IA-së?

Ji specifik në lidhje me problemin dhe i kujdesshëm në lidhje me identitetin: qëllimi, kufizimet, të dhënat hyrëse artificiale, rezultati i dëshiruar. Vendos etiketa unike në vend të një metode në vend të një regjistri të plotë prodhimi, ndaj detyrën në mënyrë që t'i plotësosh vetë pjesët e ndjeshme dhe përdor shembuj sintetikë. Kryej një skanim paraprak me ngjitje për shenja @, vargje të gjata të rastësishme si çelësa, numra të mëdhenj dhe emra që nuk do t'i vendosje në një diapozitiv. Dhjetë sekonda paguajnë qiranë përgjithmonë.

Po sikur të kem ngjitur diçka të çuditshme në një bisedë me inteligjencën artificiale?

Së pari, ndalo së përdoruri atë sekret - rrotullo fjalëkalimin, anulo çelësin, anuloje seancën. Fshi bisedën nëse produkti e lejon, kontrollo kujtimet ose skedarët e projektit, tregoji personit të duhur nëse ishin të dhëna pune dhe shiko për hyrje të pazakonta. Nëse ishin të dhëna të dikujt tjetër, pastro dhe lajmëro paraprakisht kur është e nevojshme. Mos e "mbishkruani" një rrjedhje informacioni me më shumë shpjegime; konteksti shtesë është kopje shtesë.

Si mund ta ndalojë një ekip i vogël hedhjen e kredencialeve në IA për debugging?

Përdorni një përmbledhje që kërkon redaktimin e parë: përshkruani sekretet sipas llojit, regjistra artificialë me REDACTED_KEY dhe emaile shembull, tregoni se çfarë është hequr dhe kërkoni shkaqe të mundshme plus një listë kontrolli - jo "lidhu me çelësin tim". Shtoni një rregull të shkurtër njerëzor - pa kredenciale, pa PII të klientit, pa shifra të papublikuara, redaktoni si parazgjedhje - dhe tregoni një shembull të mirë të pastruar. Mbani kredencialet reale në një kasafortë dhe zbatoni rregullimet jashtë linje pasi modeli të sugjerojë një metodë.

Referencat

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Kuiz
1. Sipas artikullit, çfarë nuk duhet të vendosni kurrë në një bisedë publike të inteligjencës artificiale?

2. Çfarë do të thotë “sekretet qëndrojnë jashtë linje” në këtë udhëzues?

3. Si duhet ta zhveshësh identitetin para se të bësh një pyetje?

4. Çfarë duhet të qëndrojë jashtë bisedës së konsumatorëve për konfidencialitetin e punës?

5. Cili zakon përputhet me pëlqimin dhe këshillën e redaktimit të artikullit?


Artikuj që mund t'ju pëlqejnë të lexoni pas këtij:

🔗 Mjetet kryesore të sigurisë së inteligjencës artificiale
Zbuloni platforma të fuqishme sigurie të inteligjencës artificiale që zbulojnë dhe zbutin kërcënimet kibernetike.

🔗 Pse IA ndonjëherë i shpik gjërat
Kuptoni pse IA halucinon dhe mësoni si t'i zvogëloni rreziqet.

🔗 Si të automatizoni detyrat me inteligjencën artificiale.
Zbatoni rrjedha pune të sigurta automatizimi duke shtuar mbikëqyrje njerëzore dhe rregulla të rrepta.

🔗 Çfarë është Teknologjia e IA-së?
Eksploroni bazat e inteligjencës artificiale dhe sfidat e saj të zakonshme të zbatimit.

Kthehu te blogu