Într-un interviu, șeful Centrului Canadian pentru Securitate Cibernetică, Sami Khoury face dezvăluiri șocante. Inteligența artificială este folosită „în e-mailuri de phishing sau în crearea de e-mailuri într-un mod mai concentrat. În coduri rău intenționate și în dezinformare”. Khoury nu a oferit detalii sau dovezi. Dar afirmația sa adaugă o notă urgentă la corul de îngrijorare cu privire la utilizarea Inteligenței Artificiale de către infractori. În ultimele luni, mai multe grupuri de supraveghere cibernetică au publicat rapoarte. Acestea avertizează cu privire la riscurile ipotetice ale inteligenței artificiale.
Inteligența Artificială folosită la uzurparea de identități
În special programele de procesare a limbajului care progresează rapid. Cunoscute sub numele de modele de limbaj mari care se bazează pe volume uriașe de text. În martie, organizația europeană de poliție Europol a publicat un raport. În care spunea că modele precum ChatGPT de la OpenAI au făcut posibilă „uzurparea identității unei organizații. Sau a unui individ într-o manieră extrem de realistă. Chiar și cu o înțelegere de bază a limbii engleze”. În aceeași lună, Centrul Național de Securitate Cibernetică din Marea Britanie a explicat un alt aspect. Infractorii „s-ar putea folosi LLM-uri pentru a ajuta la atacurile cibernetice dincolo de capacitățile lor actuale”.
Descoperire șocantă a unui fost hacker
Cercetătorii în domeniul securității cibernetice au demonstrat o varietate de cazuri de utilizare potențial rău intenționate. Și unii spun acum că încep să vadă conținut suspect generat de Inteligența Artificială în sălbăticie. Săptămâna trecută, un fost hacker a spus că a descoperit un LLM instruit pe materiale rău intenționate. Și i-a cerut să elaboreze o încercare convingătoare de a păcăli pe cineva să facă un transfer de numerar. LLM a răspuns printr-un e-mail de trei paragrafe prin care ți-a solicitat ajutor cu o factură urgentă. „Înțeleg că poate fi un preaviz scurt”. A spus LLM, „dar această plată este incredibil de importantă și trebuie făcută în următoarele 24 de ore”.
