Laikinas „ChatGPT“ pokalbių režimas tapo dirbtinio intelekto „inkognito režimu“.Ši funkcija skirta tiems, kurie nori užduoti jautrius klausimus, išbandyti konfidencialias idėjas arba tiesiog užkirsti kelią tam, kad konkretus pokalbis paveiktų likusius jų pokalbius. Tačiau kuo daugiau ji naudojama, tuo daugiau abejonių kyla: kiek ji iš tikrųjų yra privati? Ką saugo „OpenAI“? Ar sistema gali „prisiminti“ tai, ko tariamai nesaugo?
Pastaraisiais mėnesiais pasirodė susirūpinusių vartotojų liudijimų. kurie teigia matę, kaip laikiname pokalbyje įvesta informacija vėl pasirodo įprastame pokalbyje, be to, vyksta techninės diskusijos apie tai, kaip tvarkomi šie „trumpalaikiai“ duomenys, pvz., Antrojo piloto gedimasTuo pačiu metu, pačios „OpenAI“ dokumentacijoje paaiškinama, kad saugumo sumetimais kopija saugoma 30 dienų. Visa tai sukėlė susidomėjimo, painiavos ir nepasitikėjimo mišinį, kurį reikėtų ramiai išsiaiškinti.
Kas tiksliai yra laikinas „ChatGPT“ pokalbis?
„ChatGPT“ laikinas pokalbis yra „specialus“ pokalbio režimas, skirtas padidinti privatumą.Aktyvavus jį, pradedamas seansas, kuris nėra išsaugomas įprastoje naršymo istorijoje ir, anot „OpenAI“, nėra naudojamas dirbtinio intelekto modeliams mokyti. Praktiškai tai atitinka inkognito režimą naršyklėse, tokiose kaip „Chrome“, „Safari“ ar „Firefox“, tačiau taikomas pokalbių asistentui.
Įprastame pokalbyje visi jūsų pokalbiai įrašomi jūsų paskyroje.Šiuos pranešimus galima peržiūrėti vėliau ir jie sudaro konteksto dalį, kuri padeda suasmeninti atsakymus. Priešingai, laikini pokalbiai neturi tęstinumo uždarius sesiją: jų negalima atnaujinti ir jie nerodomi jūsų pokalbių sąraše. Vartotojo požiūriu, idėja aiški: tai, ką ten sakote, ten ir lieka.
Oficialioje „OpenAI“ pagalbos žinioje šis režimas apibūdinamas kaip pokalbis, kuris prasideda „nuo nulio“.Modelis nemato jūsų ankstesnių pokalbių ar nepasiekia praeities prisiminimų, nors vis tiek gali taikyti jūsų suasmenintas instrukcijas, jei jas įjungėte (pavyzdžiui, atsakymo toną arba bendrą kontekstą apie tai, ką darote). Šis atskyrimas primena suasmeninimo koncepcijas, tokias kaip „Google“ asmeninė analizėkurie valdo, kaip taikomos nuostatos nemaišant kontekstų.
Šis atskyrimas yra ypač aktualus, nes „ChatGPT“ mokosi iš jūsų sąveikos.Kiekvienas klausimas, kiekvienas įkeltas dokumentas ir kiekviena detalė, kuria dalijatės įprastuose pokalbiuose, gali padėti patikslinti modelio elgesį būsimuose pokalbiuose. Laikinas pokalbis bando „nutraukti“ tą giją ir neleisti, kad vienas pasikeitimas informacija paveiktų vėlesnius atsakymus arba liktų matomas jūsų pokalbių istorijoje.
Kas tiksliai nutinka, kai įjungiate laikiną pokalbių kambarį?
Įjungus laikiną pokalbį, įvyksta aiškūs sesijos valdymo pakeitimai.Nors iš pirmo žvilgsnio naudojimas labai panašus į įprastą pokalbį, iš esmės yra svarbių skirtumų saugyklos, atminties ir modelio mokymo srityse.
Remiantis „OpenAI“ informacija, kai aktyvus laikinas pokalbis, vyksta šie veiksmai. ir jau išplatinti aprašymai:
- Pokalbis nerodomas jūsų pokalbių istorijojeNaujausiuose pokalbiuose nematysite pavadinimo ar turinio.
- „ChatGPT“ „neprisimena“ to pokalbio būsimoms sąveikoms.Tai, ką ten pasakote, nėra pakartotinai panaudojama kaip kontekstas, kai vėliau grįžtate į įprastą pokalbį.
- Laikino pokalbio turinys neįtraukiamas į „ChatGPT“ atmintį. (jei įjungta asmeninės nuolatinės atminties funkcija).
- Seansas nėra naudojamas dirbtinio intelekto modeliams nuolat mokyti.Kitaip tariant, jei duodate leidimą, tai neturėtų būti perduodama sistemai kaip standartiniai pokalbiai.
- „OpenAI“ pokalbio kopiją saugo iki 30 dienų dėl saugumo ir atitikties priežasčių (piktnaudžiavimo, sukčiavimo, neteisėto naudojimo ir kt. nustatymas), o po to laikotarpio jį pašalina, taikydamas panašų metodą kaip ir „Google“ laikini vaizdai.
Tas kopijavimo laikotarpis iki 30 dienų yra vienas iš labiausiai nerimą keliančių dalykų.Nors negalite jo pasiekti ir jis nerodomas jūsų sąsajoje, jis vis tiek yra įmonės serveriuose ribotą laiką. Oficialus paaiškinimas paprastai yra tas, kad šis laikotarpis yra būtinas norint ištirti netinkamą naudojimą, reaguoti į teisinius reikalavimus ir išlaikyti pagrindinį atsekamumą.
Seanso metu elgiamasi taip, kaip įprasto „gyvo“ pokalbio metu.Modelis gali remtis tuo, ką pasakėte prieš kelias žinutes, naudodamas tai kaip tiesioginį kontekstą ir generuodamas nuoseklius atsakymus. Tačiau kai tik uždarote arba paliekate laikiną pokalbį, tas siūlas nutraukiamas. Nėra galimybės grįžti po kelių dienų ir tęsti ten, kur baigėte.
Kam iš tikrųjų skirtas laikinas pokalbis „ChatGPT“?
Akivaizdžiausias laikino pokalbio panaudojimas yra tada, kai reikia aptarti asmeninius, jautrius ar ypač subtilius klausimus. Ir jums nepatogu, kad jie būtų įrašyti į jūsų bylą arba naudojami modeliui apmokyti. Tai apima pokalbius apie sveikatą, finansus, darbo konfliktus, šeimos problemas, verslo idėjų kūrimą ir kt.
Daugelis vartotojų jį naudoja būtent tada, kai yra priversti dalytis duomenimis, kurių nenorėtų „įrašyti“.Tai gali būti dokumentas su asmenine informacija, teisinis tekstas su tikriniais vardais, konfidenciali profesinė strategija arba informacija, pagal kurią būtų galima identifikuoti konkrečius asmenis. Nors nulinė rizika neįmanoma, laikinas pokalbis leidžia sumažinti tą riziką, palyginti su įprastų pokalbių kambarių naudojimu.
Tačiau yra ir daugiau kasdienių bei įprastų panaudojimo būdų, kurie taip pat labai gerai dera su šiuo režimu.Pavyzdžiui, jei kelias savaites „treniravote“ „ChatGPT“ atsakyti tam tikru profesionaliu stiliumi, tonu ar požiūriu, galbūt nenorėsite, kad vienas visiškai kitoks klausimas sutrikdytų tą suasmeninimą. Laikinas pokalbis tarnauja kaip neutrali zona: užduodate klausimą, gaunate atsakymą ir tai neturi įtakos likusiai jūsų patirčiai.
Tai taip pat naudinga, kai ieškote atsakymų, kuriems įtakos neturi ankstesni pokalbiai.Jei kelias dienas diskutuojate labai konkrečia tema (pavyzdžiui, savo darbo projektu) ir staiga norite paprašyti pagalbos dėl visiškai kito (asmeninio reikalo, teisinio klausimo, šiek tiek susijusios techninės problemos), laikinas pokalbis užtikrina „tuščią drobę“, kur sistema neturi jokios ankstesnės inercijos.
Profesinėje ir verslo aplinkoje šis laikinas požiūris turi dar daugiau pasekmių.Kūrimo komandos, rinkodaros skyriai ar konsultacinės įmonės gali naudoti laikinus pokalbius, kad atliktų greitus testus, A/B eksperimentus, sukurtų pokalbių agentų prototipus arba dirbtų su darbo eigomis, nesumaišydami šio turinio su „rimtais“ duomenimis, kurie apmoko gamyboje naudojamą modelį.
Ko laikinas pokalbis neveikia (ir kokie jo apribojimai)
Vienas dažniausių klaidingų supratimų yra manymas, kad laikinas pokalbis yra visiškai anoniminis ir be pėdsakų režimas.Tai beveik tas pats, lyg kalbėtumėte su vietiniu modeliu, kuris egzistuoja tik jūsų kompiuteryje. Taip nėra. Nors, palyginti su standartiniais pokalbiais, tai suteikia daugiau privatumo, tačiau yra aiškių apribojimų, į kuriuos reikėtų atsižvelgti.
Visų pirma, laikinas pokalbis nėra pokalbis, kurį galite atnaujinti vėliau.Jis konkretus, beveik „vienkartinis“. Jei po kurio laiko norėsite grįžti prie tos pačios temos su visu kontekstu, nebegalėsite tęsti nuo ten, kur baigėte: turėsite pradėti nuo nulio kitame pokalbyje, laikiname ar įprastame.
Tai taip pat neleis jums apeiti savo plano apribojimų ar ribųJei jūsų paskyroje yra nustatytos konkrečios naudojimo kvotos, pranešimų apribojimai, galimi šablonai ar funkcijos, laikinajam pokalbiui taikomos tos pačios taisyklės. Tai nėra būdas apeiti valdiklius, turinio filtrus ar saugumo politiką.
Kitas svarbus aspektas yra tas, kad nors laikinas pokalbis nėra naudojamas modeliams mokyti,Pokalbis per tas 30 dienų vis tiek gali būti peržiūrimas viduje (pavyzdžiui, saugumo auditams ar reagavimui į incidentus). Tai reiškia, kad tai nėra 100 % saugi sistema, kurioje niekas kitas negali matyti, ką parašėte.
Be to, lieka neaišku, ką tiksliai reiškia „modelių neapmokymas“.Įprastai bendrovė žada, kad šie duomenys nebus įtraukti į bendrą mokymą ar naudojami pasauliniam modeliui tobulinti. Tačiau daugelis vartotojų svarsto, ar juos būtų galima naudoti apibendrinta, nuasmeninta forma arba vidiniam testavimui. Šis skaidrumo trūkumas kursto nepasitikėjimą.
Vartotojo, kuris vėl pamatė laikinus pokalbių duomenis, atvejis
Viena iš labiausiai ažiotažą sukėlusių istorijų yra apie vartotoją, kuris laikinu pokalbių kambariu dirbo ties nauja idėja.Būtent to ji nenorėjo įrašyti ar susieti su savo profiliu. Tuo metu ji manė, kad tai, ką pasakė toje sesijoje, liks atskirai ir nebus toliau nagrinėjama.
Po kelių dienų, įprastame pokalbyje, ji pradėjo prašyti idėjų, kaip atnaujinti savo „Instagram“ biografiją.Pasak jo pasakojimo, sistema pradėjo siūlyti frazes ir detales, kurias jis vienas paminėjo tame laikiname pokalbyje, o tai sukėlė pavojaus signalą. Kai jis aiškiai pasakė dirbtiniam intelektui, kad naudoja turinį iš laikino pokalbio, modelis atsiprašė, pareiškė, kad įtraukė šią informaciją į savo atmintį, ir pažadėjo ištrinti viską, kas susiję su tuo pokalbiu.
Toks elgesys iškėlė labai rimtą klausimą: ar modelis tikrai rinko informaciją iš laikino pokalbio? O gal jis tiesiog „haliucinavo“ ir teikė bendro pobūdžio atsakymus, kuriuos vartotojas interpretavo kaip sutapimus? Pats nukentėjęs asmuo pripažino, kad oficialiame paaiškinime kalbama apie modelio klaidą (haliucinaciją), o ne apie tyčinį laiko funkcijos pažeidimą.
Susirūpinęs jis susisiekė su „OpenAI“ palaikymo tarnyba.Atsakymas, kurį jis gavo, buvo tas, kad, remiantis jų sistemomis, pokalbių ištrynimas ir laikino režimo naudojimas reiškia, kad duomenys nėra nei išsaugomi, nei naudojami modeliams apmokyti. Pagalbos komanda užsiminė apie galimą painiavą ir paaiškino, kad modelyje galėjo būti sumaišyta informacija arba sufabrikuotos detalės – tai dažnas reiškinys teisės magistro (LLM) srityje, kai jie bando būti naudingi neturėdami pakankamai duomenų.
Tačiau vartotojas vis tiek aiškiai nesuprato šio paaiškinimo.Jam atrodė, kad detalės pernelyg specifinės, kad būtų galima laikyti tiesiog sutapimu. Tuomet palaikymo komanda paprašė jo pateikti konkrečių pavyzdžių, laiko žymų ir tikslių žinučių fragmentų, kad galėtų toliau tirti. Ir čia susidūrė dvi realybės: techninių įrodymų poreikis ir vartotojo atsisakymas dalytis privačiais duomenimis, kuriuos jis specialiai norėjo išlaikyti paslaptyje.
„OpenAI“ atsakas ir išliekančios abejonės
Oficiali „OpenAI“ politika aiški: laikini pokalbių duomenys nenaudojami modeliams mokyti ir ištrinami ne vėliau kaip po 30 dienų.Tačiau saugumo, teisinės atitikties ir piktnaudžiavimo aptikimo tikslais tuo laikotarpiu galima saugoti kopiją. Produkto požiūriu, jei norite papildomo privatumo lygio, naudokite laikiną pokalbių funkciją ir ištrinkite pokalbių istoriją, kai manote, kad tai tinkama.
Problema ta, kad šis pažadas prieštarauja daugelio vartotojų jausmui, kad skaidrumas yra ribotas.Nėra lengvo būdo iš išorės tiksliai patikrinti, kas daroma su tais duomenimis. Negalite prisijungti prie ataskaitų skydelio ir pamatyti, kaip buvo tvarkomi jūsų laikini pokalbiai, taip pat negalite savarankiškai patikrinti, ar jie nebuvo naudojami mokymo tikslais.
Dar blogiau, kalbos modelių pobūdis leidžia lengvai sutapimus palaikyti prisiminimais.Jei pasakėte kažką labai konkretaus, bet ne visiškai unikalaus, modelis vėliau gali sugeneruoti panašų atsaką dėl grynos lingvistinės tikimybės, o jūsų smegenys gali interpretuoti taip, kad „prisimena“, ką pasakėte, nors iš tikrųjų tai tik modelių rekombinacija.
Minėtu atveju „OpenAI“ palaikymo komanda netgi pripažino, kad modelis „haliucinavo“, kai teigė, kad įtraukė šią informaciją į savo atmintį.Kitaip tariant, pati „ChatGPT“ sistema sufabrikavo teiginį, kad naudojo laikinus pokalbių duomenis, o vėliau juos ištrynė. Tokie klaidingi modelio teiginiai primena, kad jo vidinio veikimo paaiškinimai ne visada yra patikimi: jis išlieka teksto generatoriumi, o ne skaidriu savo sistemos diagnostikos įrankiu.
Palyginimas su naršyklės inkognito režimu
Dažniausiai kartojama analogija yra „Chrome“ ir jos garsusis inkognito režimas.kuris daugelį metų buvo parduodamas kaip savotiškas nematomumo apsiaustas ir vėliau pasirodė esąs turintis daug daugiau apribojimų, nei siūlė rinkodara. Ši paralelė paskatino daugelį kalbėti apie „OpenAI“ „inkognito režimo akimirką“.
Žiniatinklio naršyklėse inkognito režimas neleidžia įrenginiui išsaugoti istorijos, slapukų ar formų.Tačiau tai netrukdo jūsų interneto tiekėjui, lankomai svetainei ar jūsų įmonei (jei esate įmonės tinkle) įrašyti jūsų veiklos. Panašiai nutinka ir su laikinuoju pokalbiu: tai pagerina privatumą jūsų paskyros ir istorijos požiūriu, tačiau tai nereiškia, kad duomenys nepraeina per įmonės serverius arba kad nėra laiko įrašų.
Didžiausias skirtumas yra tas, kad čia rizikuojame ne tik savo naršymo istorijabet ir sudėtingą informaciją: verslo idėjas, vidinius dokumentus, profesines strategijas, asmens duomenis ar net konfidencialią medžiagą. Todėl privatumo lūkesčiai yra daug didesni, o bet koks nenuoseklumas sukelia tiek daug nepasitikėjimo.
Dėl šių abejonių kai kurie vartotojai ėmė teigti, kad „OpenAI“ privatumas ir kibernetinis saugumas yra „apalaidios“.Ypač kai jie prašo nukentėjusiųjų pasidalyti konkrečiais duomenimis, kad galėtų išanalizuoti galimas klaidas. Galutinio vartotojo požiūriu, atsakymas „atsiųskite mums viską, kas nutiko ne taip, išsamiai“ gali prieštarauti realybei, kad jie nenori šia informacija dalytis su niekuo.
Techninės ir verslo pasekmės: sesija ir nuolatinė saugykla
Techniniu požiūriu, iššūkis yra aiškiai atskirti sesijos kontekstą nuo nuolatinės saugyklos.Tai yra, atskiriant tai, ką modelis turi matyti realiuoju laiku, kad galėtų atsakyti (ką jūs jam tuo metu siunčiate), ir tai, kas vėliau išsaugoma kaip profilio arba mokymo duomenų rinkinio dalis.
Geriausia pažangių pokalbių platformų praktika apima duomenų šifravimą sesijos lygmeniu.Taikykite konfigūruojamas saugojimo politikas ir palaikykite įvykių atsekamumą. Tai leidžia užtikrinti itin suasmenintą patirtį konkretaus pokalbio metu, nesumaišant jautrios informacijos su nuolatiniais vartotojo ar sistemos duomenimis.
Verslo aplinkoje laikini pokalbiai yra ypač naudingi palaikymo agentams. Jie turi prisiminti, kas vyksta konkrečios sąveikos metu (pavyzdžiui, kliento aprašomas incidentas), kad šie duomenys nebūtų nekontroliuojamai įtraukti į bendras įmonės „smegenis“. Tai taip pat apima koncepcijos įrodymus, vidinius bandomuosius projektus ir prototipus, kurie skirti izoliuoti nuo gamybinės aplinkos.
Įmonės, kurios kuria individualias programas, dažnai derina debesijos paslaugas su trumpalaikiu kontekstiniu saugojimu.Taip pat būtini anonimizavimo kanalai ir audito sistemos. Tikslas – kad dirbtinis intelektas pateiktų nuoseklius atsakymus viso seanso metu, nesukurdamas begalinio visko, kas pasakyta, archyvo. Norint tai integruoti su ataskaitų suvestinėmis, analizės įrankiais ir net verslo analitika, reikia kurti architektūrą atsižvelgiant į mastelio keitimą ir duomenų valdymą.
Tuo tarpu saugumas ir reguliavimas primeta savo darbotvarkęKibernetinio saugumo testavimas, įsiskverbimo testavimas, sistemos stiprinimas ir nuolatinė prieigos kontrolė yra būtini tvarkant jautrius duomenis, net jei jie teoriškai yra „trumpalaikiai“. Saugumo sluoksnio gedimas gali paversti laikiną pokalbį tokiu pat rimtu nutekėjimo šaltiniu, kaip ir bet kurią nuolatinę duomenų bazę.
Ar viskas tikrai išnyksta po 30 dienų?
Vienas iš svarbiausių klausimų, kurį užduoda daugelis žmonių, yra tai, ar yra kokių nors tvirtų įrodymų, kad laikini pokalbių duomenys yra visiškai ištrinami. Po tų 30 dienų jie „jokiu būdu“ nebenaudojami. Šiuo metu sąžiningas atsakymas yra tas, kad mes pasikliaujame pasitikėjimu įmonės vidaus politika ir įstatymais, kurie reikalauja jos laikytis.
Nėra viešo būdo tiesiogiai patikrinti, ar ištrinta informacija iš vartotojo paskyros.Negalite atidaryti ataskaitų suvestinės, kurioje būtų rodoma, kaip buvo išvalytas kiekvienas pokalbis, taip pat nėra atsisiunčiamos ataskaitos, kurioje būtų išsamiai aprašytas duomenų sunaikinimas. Praktiškai tai yra sutartinis pažadas: „OpenAI“ teigia tai daranti, o jei to nepadarys, susidurs su didelėmis teisinėmis ir reputacijos problemomis.
Vartotojams, kurie labai nerimauja dėl privatumo, to gali nepakakti.Iš tiesų, kai kurie žmonės norėtų naudoti tik vietinius modelius (LLM, kurie veikia jų pačių kompiuteryje), kad galėtų visiškai kontroliuoti, kur saugomi jų duomenys. Problema, kaip daugelis pabrėžia, yra ta, kad namų įranga ne visada pakanka šiai užduočiai: galingiausiems modeliams reikia labai daug išteklių reikalaujančių mašinų, o naudojant kuklią įrangą, patirtis tampa lėta ir ribota.
Tuo tarpu daugeliui „ChatGPT“ išlieka geriausios kokybės atsakymus siūlančia galimybe.Tam reikalinga tam tikra pusiausvyra: naudoti tai, kas teikia didžiausią vertę, tačiau atsargiai vertinti informacijos, kurios nenorima palikti savo artimiausiame rate, dalijimąsi. Laikinas pokalbis šiek tiek sumažina šią baimę, bet jos visiškai nepašalina.
Atsižvelgiant į šią realybę, praktinė rekomendacija paprastai yra naudoti laikinus pokalbius, kad būtų sumažintas poveikis.Venkite siųsti duomenis, kuriais nesidalintumėte su jokia kita internetine paslauga, o jei jautrumo lygis yra itin didelis, rimtai apsvarstykite vietinius sprendimus arba vietinius modelius, net jei jie yra brangesni ir našesni.
Trumpai tariant, „ChatGPT“ laikinas pokalbis yra naudinga priemonė, leidžianti atskirti jautrius pokalbius nuo kasdienio naudojimo.Tačiau tai nėra absoliuti anonimiškumo garantija ar stebuklinga priemonė visoms privatumo problemoms išspręsti. Tai padeda išvengti tam tikrų temų įtakos jūsų būsimiems pokalbiams, jų išsaugojimo jūsų istorijoje ir modelio mokymo, tačiau tuo pačiu metu sutinkate, kad jos „OpenAI“ serveriuose bus saugomos iki 30 dienų pagal jų pačių saugumo ir atitikties taisykles.
