Inteligența artificială (AI) evoluează rapid și devine tot mai ”inteligentă”, dar și mai abilă în procesul de a înșela și a manipula.
Deși inteligența artificială a fost creată pentru a ne ajuta, cercetătorii atrag atenția asupra faptului că aceste sisteme pot învăța să mintă și să inducă în eroare utilizatorii.
Un studiu recent, realizat de cercetători de la MIT, a descoperit că unele sisteme de IA sunt deja capabile să înșele.
Acestea pot ”trăda” adversarii, face bluff în jocuri sau chiar pretinde că sunt oameni.
Scopul acestui comportament? Să câștige avantaje sau să manipuleze situațiile în favoarea lor.
Exemple din viața de zi cu zi
Un exemplu notabil de AI care folosește înșelăciunea este Meta CICERO, care a manipulat adversarii într-un joc de masă numit Diplomacy.
CICERO a format alianțe false și i-a trădat pe ceilalți jucători pentru a câștiga.
De asemenea, sistemul AlphaStar de la DeepMind a folosit trucuri și mișcări false pentru a-i înfrunta pe jucătorii umani în jocul StarCraft II.
Dar înșelăciunea nu se oprește la jocuri
AI-ul este capabil să înșele și în situații mai serioase. De exemplu, în simulări economice, sistemele de IA pot învăța să manipuleze negocierile.
Mai mult, au fost observate cazuri în care IA a reușit să obțină recenzii pozitive prin păcălirea oamenilor care oferă feedback.
Problema înșelăciunii AI
Înșelăciunea folosită de IA devine o problemă majoră pe măsură ce tehnologia se răspândește.
De la jocuri la aplicații economice și evaluări de siguranță, inteligența artificială este tot mai capabilă să mintă pentru a-și împlini propiile scopuri.
În unele cazuri, aceste comportamente pot pune în pericol siguranța și corectitudinea proceselor, cum ar fi reglementarea comportamentului periculos al AI.
Pe măsură ce inteligența artificială devine tot mai sofisticată, este important să monitorizăm și să reglementăm utilizarea acesteia pentru a preveni abuzurile și manipularea.
 evoluează rapid și devine tot mai „inteligentă”, dar și mai abilă în procesul de a înșela și a manipula.){kind=link}