- U Španiji, policija ne može direktno pristupiti vašim razgovorima sa ChatGPT-om; za to je potreban pristanak ili sudski nalog i, gdje je to primjenjivo, međunarodna saradnja.
- OpenAI može pregledati i eskalirati razgovore ljudskom timu ako otkrije ozbiljan rizik za treće strane i, u slučaju neposredne prijetnje, obavijestiti vlasti.
- Anonimni način rada štiti samo lokalni uređaj; pružatelj usluga može zadržati zapisnike dostavljene uz sudski nalog.
Pitanje koje mnogi postavljaju je direktno i relevantno: Može li policija pristupiti mojim ChatGPT razgovorima? ili sa drugim učesnicima kao što su Gemini na AndroiduS obzirom na to da milioni ljudi koriste ove usluge kao da su digitalni povjerenici da se ispušu, traže savjet ili čak špijuniraju osjetljive teme, ne čudi što je anksioznost naglo porasla.
Debata se zaoštrila nakon viralni slučajevi i objave samih tehnoloških kompanijaS jedne strane, španski pravni stručnjaci nas podsjećaju šta je, a šta nije dozvoljeno ovdje po zakonu. S druge strane, OpenAI je detaljno objasnio da prati i pregledava razgovore u slučaju ozbiljnih rizika A u ekstremnim situacijama, to bi moglo upozoriti vlasti. Između toga, ostaje vječno balansiranje između privatnost i sigurnost.
Viralni video koji je zapalio fitilj
Na TikToku, kreatorka @_mabelart podijelila je storytime u kojem je tvrdila da ju je policija pozvala i ispitivala. za njihove pretrage i razgovore na ChatGPT-uIspričala je da je, kao pravi entuzijasta za kriminal, postavljala chatbotu sirova pitanja poput Koliko je vremena potrebno da se tijelo rastvori u kiselini? Kako ukloniti DNK sa mjesta zločina? ili šta bi se desilo zakopati leš u šumiPrema njegovom iskazu, ubrzo je dobio obavještenje od suda da svjedoči.
Priča je izazvala svakakve komentare. Neki ljudi su to shvatili doslovnoNeki su to dovodili u pitanje, drugi jesu, a sama protagonistica je pojasnila da bi to mogao biti dio igre s njenom zajednicom. Osim istinitosti tog konkretnog slučaja, video je poslužio da se pokrene ključno pitanje: Imaju li vlasti pristup onome o čemu razgovaramo s umjetnom inteligencijom? Kao ChatGPT ili Gemini?
Šta policija u Španiji može, a šta ne može učiniti s vašim razgovorima na ChatGPT-u?
Advokat Jesús P. López Pelaz, osnivač i direktor Bufete Abogado Amigo, jasan je: Agencije za provođenje zakona ne mogu direktno "ući" u vaše chatove sa ChatGPT-om ili drugim jezičkim modelima. Ako želite dobiti informacije, morate slijediti određene kanale i garancije.
Prema ovom stručnjaku, Postoje dva moguća načina za pristup informacijama vezanim za vaše interakcije sa vještačkom inteligencijom, uvijek uz pravnu podršku:
- Zapisi na vašem uređaju (računar ili mobilni): trebat će im vaš pristanak ili sudski nalog za pretragu, a dobro je znati i kako ograničite pristup određenim chatovima.
- Zapisnici na serverima provajdera (ISP ili kompanija za vještačku inteligenciju): za dostavljanje tih podataka potreban je sudski nalog upućen kompaniji.
Važno je naglasiti da bi u oba slučaja tipičan pristup bio zapisi ili tragovi (logovi) povezani s aktivnošću, a ne jednostavno čitanje "svih vaših razgovora u cijelosti" kao da se radi o privatnom razgovoru. Potrebna je posebna dozvola.a osim toga, u praksi je potrebno prikupiti dovoljni dokazi o zločinu da opravda mjeru pred sudijom.
Kada se dobavljač nalazi u inostranstvu, stvari postaju komplikovane: Nalog španskog suda nije dovoljan.Mora se saopćiti vlastima relevantne zemlje (često Sjedinjenih Američkih Država), koje će procijeniti da li je zahtjev primjeren, opravdan, proporcionalan i zasnovan na čvrstim dokazima. Međunarodna saradnja i rokovi Stoga su oni relevantan faktor.
Je li ovo "privatna komunikacija" poput razgovora između ljudi?
Pravna razlika je značajna. López Pelaz ističe da Interakcija s umjetnom inteligencijom više je slična pretraživanju interneta. nego zaštićeni razgovor između dvije osobe. To jest, ne klasificira se na isti način kao privatna komunikacija između ljudi u svrhu povjerljivosti komunikacija. Šta radite s chatbotom Smatra se uslugom informacionog društva: pošaljete zahtjev i dobijete automatski odgovor.
Anonimni način rada i brisanje historije: šta raditi, a šta ne raditi
Još jedna uobičajena zabluda: Koristite anonimni način rada ili obrišite historiju pregledavanja. To ne čini vaše interakcije nevidljivim za provajdera. To sprečava spremanje pregledavanja na vaš uređaj, ali Ne briše zapise na serverima kompanije.Uz sudski nalog, istražitelji bi mogli zatražiti te informacije od pružatelja usluga, bez obzira na to da li ste vi ne vidi se nikakav trag u vašem preglednikuDa biste poboljšali svoju zaštitu, pogledajte vodiče o privatnost i sigurnost.
Kada bi vlasti mogle preispitati vaše interakcije?
Teorijski scenariji su ograničeni i zahtijevaju pravni put. U suštini, postoje dva moguća scenarija koje su spomenuli stručnjaci kada su raspravljali o pristupu policije:
- Kada postoji izričito sudsko odobrenje što motiviše pristup tim podacima.
- Da bi se spriječilo izvršenje zločina u tom trenutku ako se dokaže stvarna i neposredna opasnost, u okviru primjenjivog pravnog okvira.
Čak i u tom slučaju, To ne podrazumijeva otvoreni bar ili masovni nadzor.To su specifični, opravdani i sudski kontrolirani postupci koji mogu zahtijevati i saradnja sa stranim vlastima kada kompanija koja posjeduje evidenciju posluje izvan Španije.
Šta OpenAI kaže o pregledavanju razgovora na ChatGPT-u i obavještavanju policije?
Paralelno sa pravnim okvirom, OpenAI je na svojoj web stranici objasnio da, kako bi upravljao ozbiljni rizici i štetna ponašanjaNjihovi sistemi mogu automatski analizirati poruke i preusmjeriti određene razgovore na specijalizirane "kanale"U tom procesu, mali, obučeni tim pregledava sadržaj i može poduzeti mjere.
Kompanija opisuje da, ako Ljudski recenzenti smatraju da prijetnja ozbiljnom fizičkom povredom trećih strana može biti neposredna.Mogli bi slučaj proslijediti policiji. To ne znači da postoji direktna, stalna veza s policijom, već da Postoji prethodni ljudski filter. prije bilo kakvog obavještenja. Nadalje, kompanija razmatra akcije kao što su suspenzija ili zabrana računa kada otkrije ozbiljne povrede upotrebe.
U toj politici, OpenAI navodi da analizira i moderira interakcije povezane, između ostalog, sa sljedećim područjima:
- Samopovređivanje ili samoubistvo (uz protokole za suzbijanje i upućivanje radi podrške resursima, za sada bez upućivanja na policiju).
- Razvoj ili upotreba oružja i planiranje štete trećim stranama.
- Povrijediti druge ljude ili uništiti imovinu.
- Neovlaštene aktivnosti koje narušavaju sigurnost usluga ili sistema.
OpenAI je naznačio da, „za sada“, Ne prijavljuje slučajeve samopovređivanja policiji. poštovati privatnost korisnika u posebno osjetljivim kontekstima. Umjesto toga, pokušavaju ponuditi podrškuPoruke podrške i reference na telefonske linije za pomoć i specijalizirane organizacije. Ovo pokazuje jasnu razliku: Najviši nivo alarma fokusira se na neposrednu štetu trećim stranama.
Kako funkcionira pregled: automatizacija, ljudski tim i prag upozorenja
Proces, prema navodima kompanije, počinje sa automatizirano skeniranje indikatora rizikaAko se pojave signali, razgovor se "usmjerava" interno tako da mali specijalizirani tim Procijenite da li je situacija stvarna, neposredna i ozbiljna. U tom trenutku, oni mogu, na primjer, prekinuti uslugu, blokirati račun ili, u izuzetnim okolnostima, kontaktirajte vlasti ako je opasnost za treće strane neposredna.
OpenAI priznaje ograničenja: performanse ovih zaštitnih mjera Pati tokom dugih razgovora i pod stalnim je pregledom. Kompanija također priznaje da Njihovi interni kriteriji nisu uvijek detaljno javno objavljeni. i da rade na jačanju ovih protokola bez pretvaranja proizvoda u nametljiv mehanizam nadzora.
Ako ljudski recenzent zaključi da postoji neposredna i ozbiljna prijetnja drugim ljudimaKompanija u svojoj dokumentaciji objašnjava da bi razgovor mogao biti proslijeđen nadležnim organima.
Privatnost naspram sigurnosti: napetosti, kritike i otvorena pitanja
Ovaj pristup je kontroverzan jer dotiče osjetljivu temu: kako zaštititi život i sigurnost suočeni s planovima za ozbiljnu štetu, bez pretvaranja upotrebe chatbota u nekontrolirani prijenos privatnostiNeki analitičari su istakli da se tradicionalni diskurs OpenAI-a o povjerljivosti chata sukobljava s idejom preispitivanja i, ako je potrebno, prenijeti informacije policiji ChatGPT se suočava s neposrednim prijetnjama. To je napetost koju kompanija pokušava opravdati na osnovu kriterija proporcionalnost i sigurnost.
Ovaj preokret događaja također dolazi nakon medijskih epizoda i tegobe vezane za mentalno zdravljeObjavljeni su izvještaji o korisnicima koji su, pod utjecajem uvjerljivog tona umjetne inteligencije, navodno otišli toliko daleko da su psihotična stanja, samopovređivanje, pa čak i samoubistvo (neki izvještaji su to nazvali „AI psihozom“). U međuvremenu, podnesena je tužba u slučaju 16-godišnjaka čiji roditelji optužuju kompaniju za ubistvo iz nehata tvrdeći da je sistem nudio štetne reakcije bez aktiviranja dovoljnih mjera za vanredne situacije.
OpenAI, sa svoje strane, prilagođava svoje alate od 2023. godine kako bi Ne dijelite sadržaj koji provocira samopovređivanje i umjesto toga ih uputite na resurse podrške, pokažite empatiju i obeshrabrite svako štetno ponašanje. Uprkos tome, javno ne navodi sve pragove koji pokreću ljudsku provjeru ili obavještavanje policije, ostavljajući razumnu sumnju u stvarni obim i učestalost ovih radnji.
Šta ako priznam zločin u razgovoru sa vještačkom inteligencijom?
Često postavljano pitanje je da li je kompanija „obavezna“ da automatski obavijesti policiju kada korisnik prizna zločin ili ga planira. Odgovor, kako ga formuliše OpenAI, je nijansiraniji: Ne postoji automatski, slijepi kanal.Postoji praćenje, korak ljudskog pregleda, i samo ako se to poštuje neposredna i ozbiljna prijetnja trećim stranama, može se prijaviti vlastima. Izvan tog praga, kompanija se oslanja na svoje pravila korištenja i u važećem zakonu odlučiti šta učiniti u svakom slučaju.
U svojoj politici privatnosti, OpenAI jasno navodi da može dijeliti informacije s vladinim organima ili trećih strana ako je to zakonom propisano ili kada postoji dobra vjera otkrivanje ili sprječavanje prevare ili drugih nezakonitih aktivnostiradi zaštite sigurnosti i integriteta svojih proizvoda, zaposlenika, korisnika ili javnosti, ili da se zaštiti od zakonske odgovornostiDrugim riječima, postoji korporativna regulatorna osnova za saradnju kada to zatraži sudija ili kada se pojave određene okolnosti. rizici i zakonske obaveze.
Nakon preseljenja u Španiju, uprkos postojanju politike korporativne saradnje, Sigurnosne snage trebaju sudsko odobrenje zatražiti podatke od pružatelja usluga, a ako se pružatelj usluga nalazi izvan zemlje, potrebno je međunarodna saradnjaNejasne sumnje nisu dovoljne: dokazi se moraju dostaviti, proporcionalnost i neophodnost marljivosti.
Po čemu se ChatGPT razlikuje od aplikacija sa end-to-end enkripcijom?
Mnoge aplikacije za razmjenu poruka sa šifriranje od kraja do kraja Hvale se da čak ni oni ne mogu pročitati sadržaj. Uprkos tome, sa sudski nalogMogu biti prisiljeni da dostave određene metapodatke ili druge dostupne informacije. U slučaju ChatGPT-a i sličnih usluga, Posebnost je u tome što kompanija priznaje prethodni pregled. od strane svog osoblja kako bi procijenili rizike prije nego što, ako je potrebno, dostave podatke vlastima. To ne znači potpuni nadzor, ali znači eksplicitna politika umjerenosti i eskalacije na osnovu svoje interne procjene.
Uloga stručnjaka za proizvode i menadžera
Čak i unutar same industrije, postoje glasovi koji pozivaju na oprez. Stavovi poput onog Nick Turley, šef ChatGPT-aprepoznajući da još uvijek postoje nedostaci u modelima za rješavanje složeni emocionalni problemiTa iskrenost pojačava ideju da ne bismo trebali koristiti vještačku inteligenciju kao zamjena za profesionalce u pitanjima mentalnog zdravlja niti kao savjetnik za pitanja koja nas ili druge mogu dovesti u opasnost.
Asistent ili zaštitar? Digitalni nadzor iz perspektive iz perspektive digitalnog nadzora
Neki tehnolozi, kao što su Alan DaitchNa društvenim mrežama su popularizirali ideju da „ChatGPT poziva policiju“ ako s njim razgovarate o počinjenju određenih zločina, iako su to pojasnili Ne bih uradio/la isto sa samopovređivanjem zbog logike zaštite privatnosti pojedinca. Također ističu da su modeli obučen od 2023. da ne daje upute o samopovređivanju i da kompanija priznaje da su njene zaštitne mjere još uvijek nesavršene. U tom kontekstu, Pojavljuju se kritike u vezi s mogućim prelaskom na nadzor. i za moguće „prve slučajeve“ teških zločina u „saučesništvu“ s chatbotovima, iako se rijetko navode provjerljivi primjeri.
OpenAI insistira na tome Njihove automatizirane akcije i protokoli su pod stalnim pregledomi da je potrebno poboljšanje, posebno u dugim razgovorima, gdje sistem može propustiti znakove. Granica između pratnja i monitoring Postalo je delikatnije nego ikad: alat ne samo da reaguje, već i posmatra obrasce, interpretira signale i ponekad djeluje.
Praktična pitanja i razumna ograničenja
Osim buke, najbolje je fokusirati se na praktično: u Španiji, Policija ne može čitati vaše ChatGPT razgovore "samo zato".Niti mogu jednostavno pozvati OpenAI i očekivati da im ih predaju. Potrebni su im sudsko ovlašćenjedovoljnu motivaciju, jasne indikacije i, gdje je primjenjivo, međunarodna obradaIz perspektive dobavljača, recenzija postojiAktivira se u slučaju određenih rizika i, u slučaju neposredne opasnosti za druge, može dovesti do obavještavanja vlasti.
Šta je s anonimnim načinom rada? Samo čisti tragove na vašem uređajuA brisanje historije? Ista stvar: Ne dira ono što je ostalo na serverimaŠta ako priznam zločin? To će zavisiti od sadržaja, rizika koji predstavlja i interne politike i zakonNema automatskog crvenog dugmeta, ali nema ni bijele kartice: Postoje ljudski filteri i pragovi ozbiljnosti.
Ključne stvari za korisnike koji žele mir prilikom korištenja ChtGPT-a
Ne moraš živjeti s paranojom, ali moraš... rasuđivanje i zdrav razumKoristite vještačku inteligenciju za ono što najbolje radi (informacije, pisanje, podrška produktivnosti) i izbjegavajte da je tretirate kao ispovjedaonicaAko ste zabrinuti za svoju privatnost, provjerite opcije historije usluge koju koristite, pročitajte (čak i ako samo preletite) njen politike upotrebe i izbjegavajte traženje ili dijeljenje sadržaja koji To bi graničilo s kriminalom.I ako ti to donosi emocionalni stres, traži profesionalnu ljudsku podršku.
Razgovor će se nastaviti u javnoj i regulatornoj sferi. Potrebna je transparentnost. o pragovima, nezavisnim revizijama i, prije svega, koordinaciji između tehnološke kompanije, zakonodavci i stručnjaci tako da ravnoteža između sigurnosti i privatnosti ne ide uvijek u istom smjeru. U međuvremenu, važno je da korisnici znaju šta se pregleda, kada i zaštoi koja stvarna ograničenja nameće naš pravni okvir.
U cjelini, slika nije tako jednostavna kao što neki naslovi sugeriraju; niti je toliko neprozirna da bi opravdala odustajanje: U Španiji, vlastima je potreban sudija da zatraže podatke.A ako postoje strani dobavljači, onda međunarodna saradnjaSa strane OpenAI-a, postoji praćenje i ljudski filter što dovodi do obavještavanja policije samo kada vide neposrednu prijetnju trećim stranama, dok Slučajevi samopovređivanja tretiraju se pružanjem pomoći. i poštovanje privatnosti.
Između mitova o mreži i sitnog tiska u pravilima, najbolji kompas je znati kako svaki kotačić zapravo funkcionira. Podijelite ove informacije kako bi više ljudi znalo ograničenja prema španskom zakonu prilikom korištenja ChatGPT-a.