GPT-4 exploatează vulnerabilităţi citind descrieri despre ele, creează hack-uri eficiente

Pe lângă utilizările „civile” şi cuminţi ale lui ChatGPT, există şi unele maliţioase, se pare. Cercetătorii în domeniul securităţii au descoperit că GPT-4 e capabil să exploateze breşe de securitate pur şi simplu citind descrieri despre acele vulnerabilităţi.

Experţii de la Universitatea din Illinois Urbana Champaign au ajuns la această concluzie după ce au realizat un studiu. Cercetătorii au testat GPT-4 şi alte modele lingvistice care folosesc software de automatizare, inclusiv LLaMA-2 şi Mistral, descoperind că doar GPT-4 este capabil să exploateze găuri de securitate. Acest model de limbaj create de OpenAI a găsit exploit-uri pentru vulnerabilităţi critice folosind descrieri ale lor în 87% dintre cazuri.

În 7% dintre aceste cazuri, GPT-4 le-a exploatat şi fără a avea acces la descrierile lor. Recent au mai fost folosiţi chatboți în scop negativ, precum crearea unor campanii mai convingătoare de phishing, producerea de ştiri false şi dezinformarea pe reţelele de socializare. Plus deepfake-uri de tot soiul. Se pare că GPT-4 poate executa anumite exploit-uri independent, depăşind capabilităţile scannerelor de vulnerabilităţi open source. 

Se pot ataca site-uri, containere de cod, pachete Python şi multe altele. Un agent LLM creat de un chatbot ar costa 8.8 dolari per exploit. E de 2.8 ori mai ieftin decât să angajezi un hacker uman pentru asta.