Stručná odpověď: Nikdy nevkládejte hesla, klíče API, ID, zdravotní nebo bankovní záznamy, soubory klientů s dohodami o mlčenlivosti ani data jiných lidí do veřejného chatu s umělou inteligencí. Pokud potřebujete pomoc, popište problém pomocí zástupných symbolů a redigovaných výňatků – model potřebuje tvar problému, ne tajemství, která odemykají skutečné systémy.
Klíčové poznatky:
Tajemství zůstávají offline: Nikdy nevkládejte hesla, tokeny, soubory cookie ani úvodní fráze do výzvy.
Odstraňte identitu: Vyměňte skutečná jména, adresy a čísla dokladů za role a falešné identity.
Pracovní důvěrnost: Uchovávejte návrhy dohod o mlčenlivosti, klientské soubory a nezveřejněné plány mimo chat se spotřebiteli.
Hranice souhlasu: Nevkládejte osobní údaje kolegů, zákazníků nebo dětí bez smyčky pouze pro lidi.
Nejprve redigujte: Používejte zástupné symboly a upravené výňatky; střídejte vše, co jste již zveřejnili.
Co byste NIKDY neměli dávat do umělé inteligence
Nejdřív vložíme a pak přemýšlíme. Chatbot tam sedí jako trpělivý stážista s nekonečnou kávou, takže se zdá téměř neškodné hodit celý zamotaný problém do krabice. Přihlášení, které nebude fungovat. Smluvní klauzule, ze které se vám zvedá žaludek. Snímek obrazovky z řídicího panelu, kde je stále viditelné každé jméno. Nástroj je užitečný, atmosféra působí soukromě a váš mozek si ho tiše zařadí vedle „poznámek, které jsem si napsal pro sebe“
To je ta past. 🧠 Chat není zamčená zásuvka. Je to konverzace se systémem, který ukládá, zpracovává a někdy i trénuje to, co posíláte, v závislosti na produktu, nastavení a na tom, zda jste si nastavení vůbec všimli. Nejsem tu proto, abych vás zahnal do paniky. Jsem tu s praktickou mapou toho, co byste NIKDY neměli dávat do umělé inteligence, a také s neokázalými, ale praktickými návyky, které vám i tak umožní získat přesné odpovědi.
Představte si to jako vykřikování tajemství v přeplněné kuchyni. Ne každý cizí člověk poslouchá. Přesto někteří z nich ano. A kuchyně si uchovává nahrávku z důvodů, které nikdy nejsou tak jednoduché, jak je prezentuje marketingový text.
Proč všechno házíme do chatovacího okna
Rychlost. To je většina. Zaseknete se, chyba je ošklivá a vložení celého protokolu se zdá rychlejší než jeho rozebrání. Kontext působí jako laskavost k modelu. Více detailů, lepší nápověda; to je lidový pověstný pojem a je to z poloviny pravda.
Druhá polovina je emocionální. Chatbot nezvedne obočí. Neřekne to vašemu manažerovi. Nebude drbovat u oběda. Takže s ním zacházíme jako s deníkem se superschopnostmi. Udělal jsem to. Pravděpodobně jste to udělali i vy. V okamžiku, kdy je něco pohodlné a zároveň neodsuzující, naše instinkty soukromí se uvolní.
Zde je mírně otravná pravda: model nepotřebuje vaše každodenní detaily, aby vám pomohl. Potřebuje tvar problému. Jména, tokeny, čísla účtů a tváře na snímcích obrazovky jsou jen ozdobou. Lahodná ozdoba. Pořád ozdoba.
- Vkládáte, protože úpravy se zdají být jako práce navíc.
- Lepíš to, protože „jen tentokrát“ je zvyk nosit převlek.
- Vkládáš to, protože rozhraní vypadá jako soukromá DM a chová se jako kartotéka.
Nic z toho z tebe nedělá bezohledného. Dělá z tebe člověka. Řešením je dvouvteřinová pauza, ne transplantace osobnosti.
Hesla, API klíče a tajné kódy, které by měly zůstat offline 🔐
Pokud to dokáže něco odemknout, nepatří to do výzvy. Hesla. Jednorázové kódy. Soubory cookie relace. SSH klíče. Řetězce pro připojení k databázi. API klíč, který jste si slíbili, že „brzy“ srotujete. Fráze pro peněženku. Soukromé certifikáty. Otázka na obnovení, kterou si vaše banka stále myslí, že je chytrá.
Dřív jsem si klíče představoval jako klíče od domu na háčku u dveří. Roztomilá metafora; okamžitě se rozpadne, protože klíč od domu otevírá jedny dveře a API klíč může otevřít sklad, fakturační účet a hromadu zákaznických záznamů, které jste zapomněli, že jste si dokonce uložili. Zálohování: s tajemstvími zacházejte jako s radioaktivními. Do lisu na sendviče nedávejte radioaktivní věci, i když je lis na sendviče velmi dobrý.
Model to nemůže „udržet mezi námi“ tak, jako to dokáže kamarád. I když dodavatel nabízí kontrolu nad pamětí, i když vypnete trénování, text se stále šíří, nějak se zaznamenává a může zůstat v historii chatu, dokud ho nevydáte hledat. Předpokládejme, že vložení je kopie, kterou již plně nekontrolujete.
Co dělat místo toho
- Popište tajný kód podle typu, nikoli podle hodnoty. Pro radu ohledně ladění stačí „URL adresa Postgres s heslem“.
- Redigujte pomocí zřejmých zástupných symbolů: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Otočte vše, co jste už vylili. Udělejte to hned, ne až poté, co „zjistíte, jestli se něco stane“
- Skutečné přihlašovací údaje uchovávejte ve správci hesel nebo v tajném trezoru; nikdy ne ve vlákně, ze kterého byste si později mohli udělat snímek obrazovky.
Pokud vás nástroj požádá o vložení klíče, aby se mohl „připojit“, jedná se o jinou kategorii produktů. Jde o integraci s Accessem, nikoli o asistenta psaní. Berte to, jako byste někomu předali svůj odznak.
Osobní identifikátory a tichá stezka identity 🪪
Osobní údaje jsou neatraktivním bratrancem hesel. Čísla občanských průkazů. Údaje z pasů. Pole pro identifikaci související s datem. Domácí adresy. Telefonní čísla. Zaměstnanecké průkazy. Studentská čísla. Celá jména a příjmení spárovaná s daty narození, názvy škol nebo lékařských klinik. Jeden kus vypadá malý. Tři kusy dohromady tvoří spis.
Lidé to dělají, když chtějí napsaný dopis, přeložený formulář nebo vyleštěný životopis. Naprosto rozumné cíle. Model nepotřebuje skutečné PSČ k napsání zdvořilé stížnosti. Potřebuje tón, fakta, která nejsou identifikační, a požadovaný výsledek.
Myslím, že překvapivě lepkavou částí jsou „neškodné“ kombinace. Unikátní pracovní pozice plus město plus škola dítěte plus vzácný zdravotní stav. To byste na leták nenapsali. Chatovací schránka není leták, ale také to není trezor.
- Vyměňte skutečná jména za role: „manažer pro nábor“, „můj praktický lékař“, „nájemník“
- Zobecněte lokality: „středně velké město“, ne ulici a kód bzučáku.
- Vynechávejte jedinečná čísla, pokud se úkol doslova netýká formátu čísla, v takovém případě použijte falešné číslo, které vypadá dostatečně reálně.
Anonymizace není doktorát. Je to zvyk kontrolovat, zda by vás cizinec dokázal rozpoznat z daného odstavce. Pokud ano, ořízněte je.
Pracovní tajemství, dohody o mlčenlivosti a věci, nad kterými by se váš šéf trhl zuby 📎
Tady se lidem dostává ochota pomoci. Vložíte klientský balíček. Nevydaný plán. Tabulku platů. Zdrojový kód s interními názvy hostitelů. Právní návrh, který je stále označen jako důvěrný. Zápisy ze schůzek se jmény lidí, kteří o něm ještě nebyli informováni. Dohodu o mlčenlivosti, kterou jste podepsali ve spěchu, protože káva už chladla.
Chatboti nejsou vaší firemní poradkyní a nejsou ani bezpečným pracovním stolem, pokud se vaše organizace s ním skutečně nesetkala. Nástroje pro spotřebitele jsou navrženy pro pohodlí. Podnikové nástroje mohou být lepší, s kontrolou uchovávání dat a administrativními zásadami; stále nejsou důvodem k tomu, abyste si klenoty z koruny nechali jen kvůli gramatickému pasu.
Praktické pravidlo, které si nechávám na poznámku: co byste nedali do osobního konceptu v Gmailu, nedávejte to ani do veřejného chatu s umělou inteligencí. Co byste neřekli při sdílení, totéž platí. Lidé, kteří jsou na Slacku opatrní, se stanou básníky nadměrného sdílení v okamžiku, kdy se objeví tlačítko pro generování.
Bezpečnější řešení
- Popište dokument: délka, publikum, tři důležité body a tón, který potřebujete.
- Vložte upravený úryvek. Odstraňte jména, citlivé údaje a cokoli, nad čím by si konkurent plácal.
- Požádejte o strukturu nebo vzorec pro přepsání a poté jej sami aplikujte na skutečný text offline.
- Používejte schválený nástroj na pracovišti, pokud nějaký máte, a stále jej standardně redigujte. Zásadou je podlaha, ne trampolína.
Kód je zvláštním prvkem tohoto modelu. Interní URL adresy, autorizační hlavičky a komentáře typu „TODO: odstranit před akvizicí“ jsou jen malé dárkové štítky. Uložte fiktivní data. Zachovejte logiku. Model dobře zpracovává fiktivní data; nepotřebuje vaše produkční schéma se skutečnými e-maily zákazníků stále vnořenými v fixture.
Zdraví, peníze a detaily, na které byste nekřičeli přes kavárnu 💊
Lékařské a finanční údaje se zdají být naléhavé, takže se vkládají s minimálními úpravami. Laboratorní výsledky. Seznamy léků na předpis. Pojišťovací průkazy. Výpisy z bankovního účtu. Daňové výpisy. Úvěrové zprávy. Fotografie karty „jen pro poslední čtyři číslice“, která nějakým způsobem zahrnuje zbytek karty, váš kuchyňský stůl a kus pošty se jménem někoho jiného.
Můžete klást skvělé otázky i bez surové dokumentace. „Vysvětlete, co by zvýšený marker mohl znamenat obecně“ je výzva. „Zde je můj kompletní panel, moje adresa, moje klinika a rodné jméno mé matky“ je životopis.
Neříkám, že s modelkou/modelem byste se nikdy neměli bavit o zdraví nebo penězích. Říkám, že s chatbotem máte zacházet jako s cizincem ve vlaku. Dobrý pro zarámování. Hrozný jako účetní, lékař nebo archivář. A ano, vím, že metafora s cizincem uniká; vlaky si neuchovávají záznamy o chatu. To je vlastně pointa.
- Odstraňte čísla účtů, třídicí kódy, IBAN a cokoli, co vypadá jako přihlašovací údaje.
- Požádejte o obecná vysvětlení, kontrolní seznamy a otázky, které můžete položit odborníkovi.
- Nepoužívejte chat jako kartotéku pro výpisy, „abych si je mohl později ověřit“. Právě tak se uchovávání informací stává problémem.
Pokud by vás nějaká výzva donutila v kavárně ztišit hlas, nejdříve si ji zaškrtněte. Tento test je překvapivě spolehlivý a nic nestojí.
Data jiných lidí vám nepatří k vkládání 🚫
Tohle se přeskakuje, protože to působí dojmem, že jste hlavní postavou chatu. Na snímku obrazovky nejste jediní. E-maily kolegů. ID partnera. Stížnost zákazníka s připojeným telefonním číslem. Fotografie dětí. Vlákno na Slacku, kde je uvedeno, kdo málem dostal výpověď. Přepis hovoru, o kterém druhá osoba nevěděla, že bude poskytnut modelu.
Souhlas se automaticky nepřesunuje z „poslali mi e-mail“ na „stroj si to může uložit“. I když je váš záměr laskavý – napsat hezčí odpověď, shrnout nesourodé vlákno – surovým obsahem je stále jejich život, ne váš dokument.
Lehce sarkastický lakmusový papírek: pokud byste stejný blob nepřeposlali na mailing list cizích lidí „pro zpětnou vazbu“, pak se k chatbotovi nechovejte jako k menšímu mailing listu s lepšími způsoby.
- Shrňte ostatní lidi vlastními slovy.
- Nahraďte jména rolemi a odstraňte kontaktní údaje.
- Zeptejte se dané osoby, zda je úkol citlivý; některé věci by měly zůstat v cyklu, který se týká pouze lidí.
- Nikdy nevlepujte osobní údaje dětí, školní záznamy ani identifikační fotografie pro „zábavnou“ generaci.
Je zde právní vrstva, o které se nebudu snažit diskutovat blogerským hlasem. Pravidla ochrany osobních údajů, pracovní povinnosti a smlouvy s klienty, to vše má své vlastní názory. Praktický zvyk je jednodušší než zákon: data ostatních se automaticky nezobrazují.
Co byste NIKDY neměli dávat do umělé inteligence: tabulka rizik, kterou můžete využít v praxi
Mám v tomto ohledu rád tabulky, protože seznam „nikdy“ může znít kázeňsky a mřížka umožňuje vidět prohodbu. Mírně subjektivní hodnocení, ne laboratorní zpráva.
| Datový typ | Úroveň rizika | Proč je to problém | Bezpečnější alternativa |
|---|---|---|---|
| Hesla, API klíče, tokeny, seed fráze | Kritický | Odemykají systémy; kopii, kterou si nemůžete plně vybavit, je stále kopií | Zástupné symboly plus lokální správce tajných informací; v případě úniku je třeba je střídat |
| Vládní průkazy totožnosti, skeny pasů, čísla národních registrů | Kritický | Startovací balíček proti krádeži identity; obtížné „zrušit odeslání“ | Falešné příklady nebo otázky týkající se pouze formátu |
| Zdravotní záznamy, recepty, průkazy pojištění | Vysoký | Intimní, regulovaný pocit a lepkavý v historii | Obecné příznaky nebo témata; identifikátory neuvádějte na stránce |
| Výpisy z bankovního účtu, daňové doklady, fotografie karet | Vysoký | Přímá finanční expozice plus dodatečné PII na maržích | Ptejte se na procesy, ne na hrubá čísla, která jsou vám připisována |
| Klientské soubory, návrhy dohod o mlčenlivosti, nezveřejněné plány | Vysoký | Možná porušuješ slib, který jsi už podepsal/a | Sanitizované výňatky; požadavky na strukturu; schválené pracovní nástroje |
| Osobní údaje kolegy nebo zákazníka, údaje o dětech | Vysoký | Není na tobě, abys daroval/a modelce/modelce | Souhrny založené na rolích; odstranění kontaktů a obličejů |
| Interní zdroj s názvy hostitelů a skutečnými e-maily | Středně vysoká | Vypadá to jako „jen kód“, dokud někdo nenamapuje vaši síť | Falešná data, falešné domény, ořezané komentáře |
| Snímky obrazovky řídicích panelů nebo schránek | Středně vysoká | Pašují jména, čísla a otevřené karty, na které jste zapomněli, že tam jsou | Ořízněte, rozmažte nebo přepište příslušný úryvek |
| Nejasné osobní příběhy bez jedinečných identifikátorů | Spodní | Obvykle v pořádku; přesto vynechte cokoli, co byste neřekli cizímu člověku | Nechte to obecné; vynechte vzácnou identifikační kombinaci |
Pokud si nic jiného nepamatujete, vzpomeňte si na levý sloupec. To je jádro toho, co byste NIKDY neměli dávat do umělé inteligence, když spěcháte a váš mozek chce slepit vesmír.
Pasti na screenshoty a nechtěné sdílení 🖼️
Snímky obrazovky jsou způsob, jakým dobří lidé prozrazují informace. Myslíš tím zobrazit chybové okno? Snímek zahrnuje lištu záložek, odznak Slacku se jménem, URL adresu s tokenem, vyskakovací okno kalendáře a odraz v okně tmavého režimu, který se nakonec ukáže jako správce hesel. Ořízl jsem snímek a stále mi unikl malý přepínač účtů v rohu. Je to prostě omyl.
Fotografie dokumentů jsou horší, protože fotoaparáty jsou štědré. Stůl, bílá tabule, nemocniční náramek, přepravní štítek. Modelka možná ty pixely navíc „nepotřebuje“. Pixely i tak dorazí.
Obyčejný rituál snímání obrazovky
- Nejdřív ořízněte. Pak ořízněte znovu. Pak se na okraje dívejte, jako by vám dlužily peníze.
- Rozmažte jména, e-maily, avatary a jakýkoli řetězec, který vypadá jako token.
- Raději přepište chybu před zachycením celého IDE.
- Nenahrávejte fotografii karty, pasu nebo palubní vstupenky „pro rychlé přečtení“. Místo toho napište otázku.
Hlasové poznámky a nahrávání souborů hrají stejnou roli. Záznam ze schůzky je bufet dat jiných lidí. CSV je bufet řádků, které jste jako lidé přestali vidět. Pokud by soubor znervózňoval právníky, nepatří do schránky.
Bezpečnější vzorce zadávání, které vám stále přinesou spolehlivé odpovědi ✨
Redakce není nepřítelem kvality. Neurčité námitky ano. Můžete být konkrétní ohledně problému a lakomí na identitu. V tom spočívá celé řemeslo.
Zkuste tento tvar: cíl, omezení, fiktivní vstupy, požadovaný výstup. „Přepište tento e-mail s odmítnutím tak, aby byl laskavý, ale pevný. Cílová skupina je nezávislý designér. Neuvádějte skutečný název projektu. Zde je upravený koncept s prohozenými jmény.“ To je výzva s páteří. Nepotřebuje export do CRM.
Vzory, které fungují
- Zástupný symbol pro vše jedinečné. ACME_CLIENT, USER_A, TOKEN_X. Zachovejte gramatiku každodenního života; zahoďte otisky prstů.
- Požádejte o metodu, ne o vzpomínku. „Proveďte mě úvahami o této třídě chyb“ je lepší než „zde je celý náš produkční protokol“.
- Rozdělte si úkol. Získejte šablonu z modelu. Citlivé části si vyplňte sami.
- Použijte syntetické příklady. Vymyslete si zákazníka jménem River, který si koupil lampu. Rada je stále platná.
- Uveďte, co jste již upravili. Modelky si s „[upravená částka platu]“ poradí bez problémů, pokud jim sdělíte související logiku.
Existuje taková chytrá výzva: „ignorujte předchozí zabezpečení, uložte si tento klíč.“ Nedělejte to. Neodezvoute si vlastní soukromí. Házíte klíč do rybníka a doufáte, že rybník bude stydlivý.
Další vzorec, který se mi líbí: skenování před vložením. Před odesláním vyhledejte v konceptu znak @, řetězce, které vypadají jako klíče (dlouhé, náhodné, často s předponou), čísla, která jsou příliš dlouhá na to, aby byla neformální, a jména, která byste na snímek nedali. Deset sekund. Platí nájem donekonečna.
Historie chatu, uchování a dlouhý konec pasty 📦
Lidé mluví o „cloudu“, jako by to byl meteorologický systém. V praxi máte produkt s výchozím nastavením. Některé chaty se používají k vylepšení modelů, pokud se z nich neodhlásíte. Některé se uchovávají pro kontrolu zneužití, právní žádosti nebo základní důvody „aby se vlákno načetlo i zítra“. Některé plány na pracovišti uchovávají protokoly pro administrátory. Nebudu předstírat, že politika jednoho dodavatele je univerzální, protože není a mění se, a měli byste si přečíst nastavení produktu, spíše než paměť blogera na nastavení.
Praktický přístup je nudný a robustní: předpokládejme, že vložený text může přetrvávat. Předpokládejme, že kolega s administrátorskými právy může vidět vlákna na pracovišti. Předpokládejme budoucnost, kdy na tuto konverzaci zapomenete, dokud se neobjeví ve vyhledávání. Předpokládejme, že export historie je věc, kterou byste mohli udělat později, a tento export je další kopie.
- Vypněte možnosti školení nebo „vylepšení modelu“, pokud je produkt nabízí, pokud vám to vyhovuje.
- Po extrahování praktických částí do skutečně lokální poznámky smažte citlivá vlákna.
- Nepoužívejte chat jako systém pro záznamy o personálních záležitostech, lékařských otázkách nebo práci s klienty.
- Buďte opatrní se sdílenými účty. Sdílené účty jsou tím, jak se „soukromé“ stává kancelářským folklórem.
Paměťové funkce – ty, které připomínají vaši práci, vašeho psa, váš preferovaný tón – jsou praktické a trochu děsivé. Jsou také důvodem, proč systém neučit vaše skutečné identifikátory, „aby mohl být osobnější“. Osobní je styl. Není to vaše číslo národního pojištění.
Pracovní normy, když váš tým žije v chatbotech 🏢
V kancelářích se zvyk vkládání stává průmyslovým. Někdo odevzdá CSV soubor zákazníka, aby „vyčistil sloupce“. Někdo jiný odevzdá strategický dokument, aby „to bylo výraznější“. Stážista s dobrým úmyslem vloží incident channel. Nikdo není padouch. Motivací je jen rychlost a uhlazenost.
Pokud vedete tým, napište krátké, lidské pravidlo. Ne 40stránkové pravidlo, které si nikdo nepřečte. Něco jako: žádné přihlašovací údaje, žádné osobní údaje zákazníků, žádná nezveřejněná čísla, žádné právní návrhy, používejte schválený nástroj, ve výchozím nastavení redigujte. Pak ukažte příklad dobře upraveného pokynu, aby lidé nehádali.
- Uveďte název schváleného nástroje, pokud nějaký máte, a názvy neschválených nástrojů.
- Dejte lidem kontrolní seznam pro redakci, který zvládnou před stand-up vystoupením.
- Řekněte „To jsem málem slepil“ bez teatrálního vyšetřování.
- Připomeňte lidem, že „umělá inteligence řekla, že je to v pořádku“ není kontrola.
I když nevedete tým, stále můžete být tím, kdo lepí figurínu. Kultura je nakažlivá v obou směrech. Myslím, že to zní vážně. Takhle se také mění normy; jeden člověk přestane házet klíče a v místnosti se trochu uvolní chaos.
Nákupní divadlo je vedlejší úkol, který přeskočím. Nákup „podnikového“ obalu magicky nezmění každou výzvu na moudrou. Může pomoci s udržením a přístupem. Vaše návyky stále odvedou těžkou práci.
Už jsi vložil/a něco trapného - co teď 🧯
Stává se to. Stisknete tlačítko Odeslat a vaše duše opouští vaše tělo. Nedělejte spirálu. Udělejte krátkou, trochu nenápadnou sekvenci.
- Přestaňte používat to tajemství. Změňte heslo, zrušte klíč, zneplatněte relaci. Tohle je jediný krok, který dveře nadobro zavře.
- Smažte chat, pokud to produkt umožňuje, a vyprázdněte všechny kapsy „nedávno smazané“, pokud nějakou máte.
- Zkontrolujte připojené aplikace a paměť. Některé nástroje uchovávají úryvky kódu v paměti nebo v souborech projektů, které jste zapomněli povolit.
- Řekněte to správné osobě, jestli se jednalo o pracovní data. Ochranka, manažer, klient; kdokoli, kdo vlastní okruh výbuchu. Brzy je méně bolestivé než později.
- Dávejte si pozor na neobvyklá přihlášení k souvisejícím účtům. Rotace bez monitorování je půlka práce.
Pokud se jednalo o data někoho jiného, dlužíte mu také úklid a v závislosti na rozsahu nepořádku i upozornění. Trapné. Pořád lepší než doufat, že vesmír bude zdvořilý.
Nepokoušejte se "přepsat" únik informací vkládáním dalšího vysvětlení. Více kontextu je více textu. Vypadněte z vlákna.
Dát to dohromady
Zkrácená verze článku „Co byste NIKDY neměli dávat do umělé inteligence“ není seznam výčitek. Je to postoj. Pokud to odemkne systém, identifikuje osobu nebo by vás to v kavárně donutilo ucuknout, zůstává to mimo rámec. Stále můžete získat skvělou pomoc. Modelu stačí poskytnout náčrt, ne klíče od domu, lékařskou dokumentaci a sousedovu poštu.
Rychlé shrnutí:
- Žádná hesla, klíče, tokeny ani seed fráze. Pokud jste uklouzli, otočte.
- Žádné skutečné doklady totožnosti, úplné finanční údaje, nezpracované zdravotní záznamy ani materiály o mlčenlivosti.
- Žádné soukromé údaje jiných lidí, zejména dětí.
- Snímky obrazovky lžou díky zahrnutí; ořízněte je tak, jak to myslíte.
- Redigujte, falešně upravujte a požádejte o metody. Specifický problém, falešné označení.
- Předpokládejme, že historie přetrvává. Mažte, nearchivujte tajné informace v chatbotu.
- Pracoviště potřebuje krátké pravidlo a dobrý příklad, ne atmosféru nenuceného soukromí.
Používejte nástroje. Jsou skvělé na kreslení, ladění tvarů a odvracení matoucích chyb. Prostě přestaňte s textovým polem zacházet jako s trezorem se smyslem pro humor. Je to velmi chytrý mixér. Přesto byste neměli dávat svůj pas do mixéru. 🫡
Praktický příklad: Vytvoření ladicího briefu s úpravami pro malý vývojářský tým
Pravidla ochrany osobních údajů platí, když zachraňují obyčejné úterý, ne když zní přísně. Zde je návod, jak pětičlenný britský SaaS tým využil návyky v této příručce k tomu, aby přestal hromadit přihlašovací údaje a osobní údaje zákazníků do chatbotů pro spotřebitele – aniž by se musel vzdát pomoci s ladění.
Scénář
Vývojáři a podpora sdílejí jeden nepříjemný zvyk: když chyba autorizace vypadá ošklivě, někdo vloží celý log, připojovací řetězec pro staging a snímek obrazovky administrátorského panelu, „aby model měl kontext“. V minulém čtvrtletí to zahrnovalo živě vypadající klíč API v trasování zásobníku a e-mail zákazníka stále viditelný v adresním řádku snímku obrazovky. Nikdo to nechtěl ublížit. Rychlost vyhrála. Kuchyně si ponechala nahrávku.
Nepotřebují přednášku. Potřebují opakovatelné zadání: popsat tajemství podle typu, redigovat pomocí zástupných symbolů, oříznout snímky obrazovky, požádat o metodu, ne o vzpomínku, a pak aplikovat opravu na živé systémy offline. Chat se zákazníky si stále vydělává na své. Klíče od domu zůstávají mimo mixér.
Cílem je stejně kvalitní rada s dvousekundovým skenováním před vložením – a krátkým týmovým pravidlem, kterého se lidé budou řídit.
Co asistent potřebuje
- Upravený tvar problému: třída chyby, zhruba kdy problém začal, prostředí (staging vs. produkční) bez názvů hostitelů, které mapují síť
- Pouze falešné vstupy: REDACTED_KEY, USER_TOKEN, customer@example.com, falešná ID požadavků
- Co již bylo odstraněno (uvedeno v promptu, aby se model neptal na skutečné hodnoty)
- Požadovaný výstup: pravděpodobné příčiny, kontroly k provedení, osnova záplaty - ne „připojit se k mému klíči“
- Člověk, který uchovává přihlašovací údaje ve správci hesel nebo v tajném trezoru
- Jednostránkové pravidlo týmu: žádné přihlašovací údaje, žádné osobní údaje zákazníků, žádné nezveřejněné údaje, ve výchozím nastavení zaškrtnout
Příklad instrukce
Cíl: Pomozte mi odladit občasnou chybu 401 v našem testovacím API po aktualizaci tokenu. Nežádejte mě o vkládání tajných kódů.
Omezení: Již jsem redigoval hesla, klíče API, tokeny, soubory cookie, interní názvy hostitelů a e-maily zákazníků. Zástupné symboly v protokolu znamenají, že skutečné hodnoty existují pouze na mém počítači. Britská angličtina. Bez preambule.
Výňatek z fiktivního textu: Požadavek na https://api.example-staging.invalid/v1/session vrátil chybu 401. Autorizace hlavičky: Nositel REDACTED_KEY. V textu se uvádí, že platnost USER_TOKEN vypršela. Popis obrazovky (není připojen): pouze chybové hlášení; panel záložek a přepínač účtů jsou oříznuté.
Úkol: Uveďte tři nejpravděpodobnější příčiny této třídy chyb, kontroly, které bych měl spustit lokálně, a minimální osnovu opravy. Pokud potřebujete více podrobností, požádejte o typ informace (např. „nastavení TTL tokenu“) – nikdy ne o nezpracovaný tajný kód.
Výstup: Číslované příčiny, poté kontrolní seznam a nakonec ve třech odrážkách „co příště nevlepit“.
Jak to otestovat
- Porovnejte starší vložený protokol (celý protokol + snímek obrazovky) s výše uvedeným redigovaným popisem stejného typu incidentu. Porovnejte kvalitu doporučení a to, zda model požaduje tajné informace.
- Skenování před vložením: před odesláním prohledejte koncept, zda neobsahuje znaky @, dlouhé náhodné řetězce a čísla příliš dlouhá na to, aby byla neformální.
- Okrajový případ: přidejte falešný klíč, který vypadá jako originál, a potvrďte, že odpověď stále funguje, aniž byste museli znát skutečnou hodnotu.
- Okrajový případ: odmítnout nahrání snímku obrazovky; znovu zadat pouze chybový řádek; ověřit, zda kontrolní seznam stále pomáhá.
- Kontroly přijetí: (1) žádné přihlašovací údaje ve vlákně, (2) žádné kontaktní údaje zákazníka, (3) deklarované zástupné symboly, (4) výstup je metoda/kontrolní seznam, nikoli postup „vložení klíče“, (5) pokud dříve něco uniklo, rotace proběhla ve stejný den.
Výsledek
Ilustrativní výsledek (příklad odhadu pro jeden malý tým inženýrů/podpory, nikoli publikovaná studie): V rámci 12 ladicích chatů za čtyři týdny se medián doby potřebné k vytvoření použitelného kontrolního seznamu mírně zvýšil z přibližně 4 minut (úplné vložení) na přibližně 6 minut s redigováním - dvě minuty navíc pro skenování před vložením a zástupné symboly. Počet vláken obsahujících kritické datové typy (klíče, e-maily zákazníků, nezpracované připojovací řetězce) klesl z 9 z 12 chatů na 1 z 12 (ten byl zachycen při kontrole a rotován ve stejný den). Na jednoduchém hygienickém kontrolním seznamu (žádné tajné informace, žádné osobní údaje zákazníka, deklarované zástupné symboly, oříznuté nebo žádný snímek obrazovky) bylo 11 z 12 redigovaných zadání schváleno oproti 3 z 12 podle starého zvyku. Omezení: malý vzorek, jeden tým, načasování hlášené uživatelem; mírnější incidenty vyžadují méně redigování; „schváleno“ se vztahovalo na vzájemné posouzení textu výzvy, nikoli na laboratorní audit protokolů dodavatele.
Pro změření vlastní verze: proveďte vzorky 10 nedávných ladících vláken AI pro zakázané datové typy, poté vzorky 10 po použití pravidla redigování a šablony; nahlaste počty s jmenovateli plus medián minut od „zaseknutí“ do „kontrolního seznamu v ruce“
Co se může pokazit
- Pašování snímků obrazovky: Chyba je v pořádku; adresní řádek stále obsahuje token. Dvakrát ořízněte a poté zkontrolujte okraje.
- Klíče „jen tentokrát“: Jeden uniklý klíč API může otevřít fakturační a zákaznické záznamy. Okamžitě střídejte; nečekejte, „zda se něco stane“.
- Údaje jiných lidí: Stížnost zákazníka s telefonním číslem není vaše a nemáte právo ji darovat modelce. Shrňte to vlastními slovy.
- Chat jako trezor: Ponecháním tajemství v historii vytvoříte další kopii. Po přesunutí potřebných částí do lokální poznámky vlákno smažte.
- Podnikové divadlo: Schválený nástroj na pracovišti pomáhá s uchováním informací; neznamená to, že je důležité lepit korunovační klenoty.
- Přeskočení rotace po slipu: Smazání chatu bez zrušení klíče ponechá dveře otevřené.
Praktické ponaučení
Do umělé inteligence byste nikdy neměli dávat ani tak seznam kárání, jako spíše postoj: pokud odemkne systém, identifikuje osobu nebo by vás to v kavárně donutilo ucuknout, zůstává mimo rámec. Předložte modelu náčrt se zástupnými symboly, uložte si přihlašovací údaje do trezoru a požádejte o metody, které používáte offline. Tato dvousekundová pauza je způsob, jak se z ochotného stážisty s nekonečnou kávou přestane stát kartotéka na vaše klíče od domu.
Často kladené otázky
Co byste nikdy neměli dávat do chatbotů s umělou inteligencí?
Pokud to odemyká systém, identifikuje osobu nebo by vás to v kavárně dojalo, držte to mimo krabici. To zahrnuje hesla, API klíče, tokeny, seed fráze, vládní identifikační údaje, nezpracované zdravotní a finanční záznamy, materiály NDA a soukromé údaje jiných lidí – zejména dětí. Chat není zamčená zásuvka; text lze ukládat, zpracovávat a někdy používat k trénování v závislosti na produktu a nastavení. Modelu poskytněte náčrt se zástupnými symboly, ne klíče od domu.
Proč lidé vkládají tajemství do umělé inteligence, i když vědí, že to není pravda?
Rychlost odvede většinu práce: ošklivá chyba způsobí, že se celý protokol zdá rychlejší než jeho rozebrání. Chatboti také působí neodsuzujícím dojmem, takže instinkt soukromí si dává pauzu. Model obvykle potřebuje tvar problému, ne jména, tokeny, čísla účtů nebo obličeje na snímcích obrazovky – to jsou jen ozdoby. Dvousekundová pauza je lepší než transplantace osobnosti.
Je bezpečné vkládat hesla nebo klíče API do nástrojů ve stylu ChatGPT?
Ne. Pokud to dokáže něco odemknout, nepatří to do výzvy – hesla, jednorázové kódy, soubory cookie relace, klíče SSH, připojovací řetězce, semena peněženky ani soukromé certifikáty. Model nedokáže udržet tajemství jako přítel; text se stále šíří, zaznamenává a může zůstat v historii. Popište tajemství podle typu, použijte zástupné symboly jako REDACTED_KEY, otočte vše, co již uniklo, a uchovávejte skutečné přihlašovací údaje ve správci hesel nebo trezoru.
Jaké osobní údaje mám před zobrazením výzvy zamazat?
Osobní údaje se rychle skládají: občanské průkazy, údaje z cestovních pasů, adresy, telefonní čísla, zaměstnanecké nebo studentské průkazy a celá jména spárovaná s daty narození nebo klinikami. Model k napsání dopisu nepotřebuje skutečné PSČ – potřebuje tón, neidentifikující fakta a požadovaný výsledek. Zaměňte jména za role, zobecněte lokality a vynechejte jedinečná čísla, pokud netestujete formát s falešným příkladem.
Mohu vkládat klientské soubory, smlouvy o mlčenlivosti nebo interní kód do nástroje pro spotřebitelskou umělou inteligenci?
Chovejte se k chatu se zákazníky jako k produktu, který jim nabízí pohodlí, ne jako k firemnímu poradenství. Pokud byste to nedávali do osobního konceptu v Gmailu nebo to neřekli při sdílení, nedávejte to ani do veřejného chatu s umělou inteligencí – jedná se o klientské balíčky, nezveřejněné plány, výplatní listiny, důvěrné právní návrhy ani zdroje s interními názvy hostitelů. Popište dokument, vložte upravený výňatek, požádejte o strukturu, kterou uplatňujete offline, a použijte schválený nástroj pro pracoviště, pokud nějaký máte, a zároveň jej ve výchozím nastavení redigujte.
Jak mám v pokynech umělé inteligence zacházet s údaji o zdraví nebo financích?
Ptejte se na skvělé otázky bez nutnosti používat surové záznamy. Obecná vysvětlení jsou lepší než lepení laboratorních panelů, seznamů receptů, identifikačních karet pojišťoven, bankovních výpisů nebo fotografií karet, které zároveň zachycují i kuchyňský stůl. Odstraňte čísla účtů a cokoli, co vypadá jako pověřovací dokument. Používejte chat k zarámování a kontrolní seznamy, které můžete předat profesionálovi – ne jako svého lékaře, účetního nebo kartotéku pro výpisy.
Proč jsou data a snímky obrazovky jiných lidí obzvláště riskantní?
Nejste jediní, kdo se vkládá: e-maily kolegů, telefonní čísla zákazníků, fotografie dětí nebo přepisy hovorů se mohou do systému dostat bez jejich souhlasu. Shrňte vlastními slovy, nahraďte jména rolemi a nikdy nevkládejte identifikační údaje dětí pro „zábavné“ účely. Snímky obrazovky pašují lišty záložek, tokeny URL, jména ze Slacku a otevřené karty – ořízněte je dvakrát, rozmažte identifikátory nebo přepište chybu místo nahrávání pasů nebo karet.
Které bezpečnější vzorce promptů stále získávají spolehlivé odpovědi od umělé inteligence?
Buďte specifičtí ohledně problému a skoupí na identitu: cíl, omezení, fiktivní vstupy, požadovaný výstup. Vyplňte zástupné jedinečné popisky, požádejte o metodu místo celého produkčního protokolu, rozdělte úlohu tak, abyste si citlivé části vyplnili sami, a používejte syntetické příklady. Spusťte skenování před vložením, zda neobsahuje znaky @, dlouhé náhodné řetězce podobné klíčům, nadměrně velká čísla a názvy, které byste na snímek nevložili. Deset sekund vyplácí věčný nájem.
Co když jsem už do chatu s umělou inteligencí vložil něco nepříjemného?
Nejdříve přestaňte používat to tajné heslo – změňte heslo, zrušte klíč, zneplatněte relaci. Smažte chat, pokud to produkt umožňuje, zkontrolujte paměti nebo soubory projektu, sdělte správné osobě, zda se jednalo o pracovní data, a sledujte neobvyklá přihlášení. Pokud se jednalo o data někoho jiného, vyčistěte je a v případě potřeby na to upozorněte. „Nepřepisujte“ únik dalším vysvětlením; další kontext je další text.
Jak může malý tým přestat zadávat přihlašovací údaje do umělé inteligence pro ladění?
Použijte stručný popis založený na redakci: popište tajné informace podle typu, fiktivní protokoly s REDACTED_KEY a příklady e-mailů, uveďte, co bylo odstraněno, a zeptejte se na pravděpodobné příčiny plus kontrolní seznam – ne „spojit se s mým klíčem“. Přidejte krátké lidské pravidlo – žádné přihlašovací údaje, žádné osobní údaje zákazníků, žádné nezveřejněné údaje, ve výchozím nastavení redakčně upravovat – a ukažte jeden dobrý a sanitární příklad. Skutečné přihlašovací údaje uchovávejte v trezoru a opravy provádějte offline poté, co model navrhne metodu.
Reference
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Claude — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Články, které byste si mohli po tomto přečíst:
🔗 Nejlepší nástroje pro zabezpečení s využitím umělé inteligence
Objevte výkonné platformy pro zabezpečení s využitím umělé inteligence, které detekují a zmírňují kybernetické hrozby.
🔗 Proč si umělá inteligence někdy vymýšlí
Pochopte, proč má umělá inteligence halucinace, a naučte se, jak snížit rizika.
🔗 Jak automatizovat úkoly pomocí umělé inteligence
Implementujte bezpečné automatizované pracovní postupy přidáním lidského dohledu a přísných pravidel.
🔗 Co je to technologie umělé inteligence?
Prozkoumejte základy umělé inteligence a její běžné implementační výzvy.