Umetna inteligenca (UI) je v zadnjih letih prešla obdobje zgolj pogovornega orodja in se razvila v personaliziranega digitalnega pomočnika. Sposobnost naprednih modelov, da si zapomnijo pretekle interakcije, je za uporabnike predstavljala veliko prednost, saj so se s tem izognili ponavljanju enakih navodil.
Vendar pa je nedavna uvedba OpenAI-jevega novega pomnilniškega sistema, interno poimenovanega “Dreaming” (sanjanje), korenito spremenila način, kako sistemi ravnajo z našimi osebnimi podatki.
Kako deluje sistem “Dreaming”?
Klasični sistemi pomnilnika v jezikovnih modelih so delovali na principu eksplicitnih ukazov – uporabnik je moral sistemu izrecno naročiti, kaj naj si zapomni (npr. »zapomni si mojo prehransko preferenco«). Nadgradnja z mehanizmom Dreaming pa ta proces postavi na glavo.
Sistem v ozadju samostojno, brez neposrednega posredovanja ali vprašanja uporabnika, pregleduje arhiv preteklih pogovorov. Iz njih izvleče informacije, jih analizira ter sestavi celovit, strukturiran profil posameznika. Ta profil se ureja po življenjskih področjih – od delovnih projektov in hobijev do lokacije bivanja, stila komunikacije in psiholoških vzorcev. Poleg tega je sistem dinamičen: profil sproti posodablja, kar pomeni, da se na primer načrtovan dogodek samodejno pretvori v zaključen dogodek.
Tovrstni pristop temelji na avtomatizirani sintezi podatkov, kjer model sam sklepá na osebne okoliščine, prioritete in značajske lastnosti uporabnika.
Kaj to pomeni za nas, uporabnike?
Prehod z ročnega beleženja podatkov na avtomatsko profiliranje prinaša pomembne posledice, ki jih lahko opazujemo z vidika uporabnosti na eni strani ter zasebnosti in nadzora na drugi.
1. Prednost: večja prilagodljivost in izguba potrebe po ponavljanju
Uporabnikom ni treba več neštetokrat ponavljati osnovnih izhodišč, preferenc ali konteksta svojih projektov. Sistem deluje z visoko stopnjo predvidevanja, kar znatno zmanjšuje trenje pri delu in pospešuje komunikacijo.
2. Nevarnost: avtonomnost sistema proti nadzoru uporabnika
Velik del informacij, ki jih umetna inteligenca »ve« o vas, ni več rezultat vaše zavestne izbire, temveč algoritmične interpretacije. Študije obstoječih vzorcev delovanja kažejo, da veliko večino zapisov ustvari model samostojno, pri čemer pomemben delež teh vsebin sega na področje občutljivih osebnih podatkov in vedenjskih vzorcev. Uporabnik se tako znajde v položaju, ko mora aktivno preverjati, kakšno “senco” je o njem ustvaril algoritem.
3. Vprašanje zasebnosti in občutljivih podatkov
Ker sistem analizira pogovore v celoti, lahko v profilih pristanejo tudi informacije, ki jih uporabnik ni nameraval trajno shraniti, temveč so bile del trenutnega razmisleka, hipotetičnega vprašanja ali čustvenega stanja. To odpira resna vprašanja glede skladnosti z zakonskimi okviri o varstvu podatkov in varnosti digitalne identitete.
Kako vzpostaviti nadzor?
Uporabniki niso nemočni, vendar morajo za zaščito svoje zasebnosti aktivno poseči v nastavitve sistema. Sistem Dreaming dokazuje, da umetna inteligenca postaja vse bolj inteligenten opazovalec človeškega vedenja. Čeprav to prinaša izjemno uporabniško izkušnjo in gladko delovanje, pa od nas zahteva večjo previdnost, digitalno higieno in zavestno upravljanje meja med koristno avtomatizacijo in zaščito lastne zasebnosti.
Če želite preprečiti, da bi sistem v ozadju ustvarjal vaš profil ali brskal po vaših preteklih pogovorih, sledite spodnjim korakom v aplikaciji ali spletnem brskalniku:
1. Pregled in urejanje shranjenih podatkov
Pot: Settings (Nastavitve) > Personalization (Personalizacija) > Memory (Pomnilnik)
Kaj storiti: Kliknite na gumb Manage memories (Upravljanje pomnilnika). Odprl se bo seznam vseh zabeleženih podatkov. Posamezne opombe, ki so napačne ali presvetle v vašo zasebnost, preprosto odstranite s klikom na ikono smetnjaka ali pa jih urejate.
2. Popolna deaktivacija funkcije
Pot: Settings > Personalization > Memory
Kaj storiti: Glavno stikalo ob možnosti Memory premaknite na pozicijo Off (Izklopljeno). S tem sistemu onemogočite nadaljnje samodejno shranjevanje in profiliranje.
3. Brisanje obstoječega profila in prekinitev povezave s preteklostjo
Možnost v meniju (•••): V istem razdelku odprite dodatni meni (tri pike) in izberite možnost “Delete and turn off memory”. To bo v celoti izbrisalo do sedaj ustvarjeni profil ter hkrati izklopilo funkcijo.
Onemogočanje vpogleda v zgodovino: V istem dodatnem meniju izklopite možnost “Reference chat history”, da model pri prihodnjih odgovorih ne bo več črpal informacij iz vaših preteklih klepetov.
4. Zasebno brskanje z “Začasnim klepetom”
Kaj storiti: Za pogovore z občutljivo vsebino v zgornjem levem kotu zaslona vedno vklopite način Temporary Chat (Začasni klepet). Ti pogovori se ne shranjujejo v zgodovino, se ne uporabljajo za učenje modela in ne ustvarjajo nikakršnih spominov.
Pomembno: skrita past!
Vendar pa je tukaj ključna past, ki jo morate vedeti: Brisanje spomina ne izbriše izvirnega pogovora, iz katerega je bil ta spomin narejen.
Izvirni klepeti ostajajo
Če izbrišete samo spomin v razdelku Memory, tisti pogovor, v katerem ste nekaj povedali (in vsi vaši izpadi ter kletvice), še naprej živi v vaši zgodovini klepetov na njihovih strežnikih, razen če ročno izbrišete še tisti posamezni klepet ali celotno zgodovino.
Varnostne in sistemske kopije (Backups)
Celo ko izbrišete določen klepet ali spomin, lahko podatki še nekaj časa ostanejo v šifriranih varnostnih kopijah (backupih) na strežnikih zaradi tehnične obnovljivosti in varnosti sistema, preden so trajno prepisani in izbrisani iz vseh njihovih arhivov.
Torej iluzija o izbrisu do določene mere obstaja, dokler imate vklopljeno zgodovino klepetov in dokler ne počistite vsakega vira posebej. Če hočete, da resnično ne ostane nič sledi, morate ročno brisati klepete, izklopiti spomin in za občutljive stvari vedno uporabljati Temporary Chat.
