Modelele de inteligență artificială dezvoltate de OpenAI, Meta, xAI și Alibaba au capacitatea de a influența opiniile politice ale utilizatorilor după mai puțin de 10 minute de conversație, scrie publicația Descoperă.ro.
Această concluzie a apărut în urma unui studiu realizat de AI Security Institute împreună cu universități precum Oxford și MIT.
Chatboții pot influența opiniile utilizatorilor pe termen lung
Cercetarea, prezentată joi în Financial Times, evidențiază faptul că chatboții reușesc să devină convingători prin furnizarea de dovezi relevante, prin adaptarea conținutului la context și prin ajustarea mesajelor în funcție de vârstă, gen sau orientarea politică a celor care interacționează cu ei.
Rezultatele indică faptul că schimbarea opiniilor rămâne vizibilă și activă într-o proporție cuprinsă între 36% și 42% chiar și după trecerea unei luni.
Specialiștii atrag însă atenția că această abilitate impresionantă poate fi folosită nu doar pentru educație și corectarea dezinformării, ci și pentru manipularea opiniei publice, cu riscul unor consecințe sociale serioase.
În același timp, ea poate avea și efecte benefice, precum reducerea credințelor în teorii conspiraționiste sau diminuarea scepticismului legat de eficiența vaccinurilor.
OpenAI și Google DeepMind implementează filtre pentru a preveni abuzul și manipularea politică
Companii precum OpenAI și Google DeepMind afirmă că aplică măsuri pentru a preveni abuzul, mai punctează sursa citată.
Practic, folosesc filtre și tehnici de instruire menite să încurajeze comunicarea rațională și să elimine conținutul politic manipulator.
