Superincarcate: Cum IA transformă fraudele online în amenințări globale
Instrumentele de inteligență artificială (IA) fac din ce în ce mai ușor pentru criminalii online să înșele persoanele, să fură bani și să extragă date confidențiale de valoare. Lansarea publică a ChatGPT în finalul anului 2022 a deschis ochilor publicului asupra felului în care modelele generative de limbă pot produce cantități enorme de text care pare uman, pornind de la simple indicări. Acest lucru a atras rapid atenția criminalilor, care au început să folosească modelele mari de limbă (LLM) pentru a compune e-mailuri malițioase – atât spamul neintentionat, cât și atacurile sofisticate, țintite, proiectate pentru a fură bani și informații sensibile. De atunci, criminalii cibernetici au adoptat instrumentele de IA pentru a „superincarca” operațiile lor. Au folosit tehnologia pentru a compune e-mailuri de phishing, pentru a crea clipuri deepfake hiperrealiste și convincentă, precum și pentru a modifica software-ul malițios (comun denumit malware) în modul în care devine mai greu de detectat. De asemenea, pot folosi IA pentru a automatiza căutarea vulnerabilităților în rețele și sisteme informatice, pentru a genera rapid note de ransom și pentru a analiza cantități enorme de date furate, identificând ce este cel mai valabil. Deși impactul IA asupra hacking-ului în sine nu este deloc clar, stim că IA reduce barierele de intrare pentru atacatorii potențiali, le oferă un arzanel în continuă evoluție de noi capacități și le face mai rapid, mai ieftin și mai ușor decât vreodată să încerce să infiltreze țintele lor. De exemplu, centrele de scam din Sud-Est Asiatic folosesc instrumente ieftine de IA pentru a ținti rapid un număr mai mare de victime potențiale și pentru a comuta rapid spre noi locații, conform avertizărilor lui Interpol. Similar, Emiratele Arabe Unite au declarat recent că au eșuat o serie de atacuri în șadu, susținute de IA, direcționate împotriva sectorilor vitali ai țării. Și deoarece aceste atacuri de tip spam, cu abordare de tip „pistolat”, pot fi generate în scară enormă, nu trebuie să fie foarte sofisticate pentru a avea efectul dorit – trebuie doar să fie suficient de norocoase pentru a ajunge într-o mașină care nu este protejată sau în cutia poștală a unei persoane neștiințeoase la momentul potrivit. Multe organizații se batte deja cu volumul enorm de atacuri cibernetice care le țintește. Problema este probabilă să se agraveze semnificativ, pe măsură ce numărul crescător de criminali va încerca norocul și pe măsură ce capacitățile sistemelor publice de IA generativă vor continua să se îmbunătățească. Luna trecută, compania de IA Anthropic a afirmat că modelul său, Mythos, pe care l-a dezvoltat și testează, a identificat mii de vulnerabilități critice, inclusiv unele în fiecare sistem de exploatare major și în fiecare navigator web. Anthropic spune că toate au fost remediate, dar a retras lansarea modelului ca urmare a acestor noi capacități și a creat un consorțiu de companii tehnologice numit Project Glasswing, care, conform afirmațiilor, va încerca să folosească aceste capacități în scopuri defensive în așteptarea lansării. În prezent, cercetătorii în securitatea cibernetică sunt optimisti că atacurile mai neglijate pot fi oprite prin apărarea de bază, subliniând cât de important este să ținem software-ul la zi și să respectăm protocolele de securitate a rețelelor. Cât de bine vom fi poziționați pentru a apara de atacuri mai sofisticate în viitor este mult mai puțin clar. Bineînțeles, IA este și folosită pentru apărare. Fiecare zi, Microsoft – una dintre multele companii care monitorizează astfel de amenințări – procesează mai mult de 100 de trilioane de semnale flaguate de sistemele sale de IA ca fiind potențial malițioase sau suspecte. Compania spune că între aprilie 2024 și aprilie 2025 a reușit să blocheze tranzacții frauduloase și scamuri în valoare de 4 miliarde dolari, multe dintre ele posibil facilităte de conținut generat de IA. Aceeași tehnologie care face posibilă aceste atacuri ar putea fi și cea mai bună şansă noastră de a ne proteja în ani care vor veni.
