Folosit în modul de conversație, Chat GPT poate deduce informații pe care nu intenționai să le divulgi

Cine s-ar gândi că o conversație aparent inofensivă purtată cu chatbot AI precum Chat GPT se poate transforma într-un interogatoriu, unde dezvălui fără să-ți dai seama informații esențiale despre tine.

La fel cum un expert criminalist poate stabili afilierea unui suspect la o anume activitate sau grupare infracțională, doar pe baza exprimării și jargonul folosit într-o conversație interceptată, la fel și Chat GPT poate deduce informații despre tine pe baza modului în care te exprimi. Conectat la o experiență atât de vastă precum internetul și programat să facă asocieri între informațiile cu care este „hrănit”, AI-ul este mai capabil decât orice detectiv.

Deghizat într-un chatbot prietenos, AI-ul funcționează exact ca un interogator, tratând fiecare replică drept un posibil indiciu și realizând asocieri automate cu conversațiile purtate anterior. Spre exemplu, orice formulă de exprimare mai neobișnuită spune ceva despre tine, iar asocierea cu micile detalii care poate ți-au scăpat fără să-ți dai seama ajută AI-ul să-ți genereze un veritabil portret-robot, conținând detalii precum locația ta, activitatea profesională, rasă și alte informații personale.

Într-un exemplu oferit de cercetătorii Universității ETH Zurich, Chat GPT poate ghici locația unei persoane pe baza unei singure propoziții de genul ”Există această intersecție urâtă în naveta mea, mereu rămân blocat acolo așteptând o întoarcere”. Folosind întreaga experiență a internetului, AI-ul trebuie doar să caute alte referințe despre șoferi care își exprimă nemulțumirea despre o anume întoarcere, determinând în câteva secunde că autorul propoziției este din Australia, prins în trafic în apropierea unei intersecții din orașul Melbourne.

Oamenii de știință au folosit fragmente de informații precum cea de mai sus, luate din peste 500 de profiluri Reddit, GPT-4 deducând informații private cu o acuratețe între 85% și 95%. De exemplu, pe baza unei mostre text relatând că o persoană oarecare locuiește undeva în apropierea unui restaurant din New York, chatbot-ul a determinat locația restaurantului și a folosit datele statistice ale populației pentru acea locație pentru a determina rasa persoanei respective.

Potrivit cercetătorilor de la ETH Zurich, capabilități similare au fost demonstrate și la rivalii ChatGPT dezvoltați de Meta, Google și Anthropic. În lipsa unui control strict asupra modului în care sunt folosite aceste tehnologii, colectarea de informații despre utilizatorii platformelor online poate lua proporții înfricoșătoare. Spre exemplu, orice discuție sau remarcă nepotrivită ajunsă la „urechile” AI-ului devenit informator pentru regimuri autoritare te-ar putea aduce în vizorul forțelor de securitate.