Cele mai negre scenarii din filmele SF prind contur în realitate. Roboţii preiau iniţiativa şi își mint utilizatorii pentru scopuri ascunse

Experţii cibernetici atrag atenţia asupra puterii pe care a câştigat-o Inteligenţa Artificială. Modelele avansate își pot duce utilizatorii în eroare atunci când sunt presate să ofere răspunsuri şi randament cât mai rapid.

Specialiştii au făcut un experiment pentru a afla dacă o inteligență artificială crede ceea ce vă spune și în ce circumstanțe ar putea fi constrânsă să vă furnizeze informații despre care știe că sunt incorecte.

Citiţi şi: Părinţii români trebuie să pună piciorul în prag în faţa pericolului reprezentat de rețelele de socializare: copiii, "rătăciţi" în hățișurile mediului online!

AI-urile mint cu uşurinţă

În cadrul acestui test, au fost verificate 30 de modele principale. Răspunsul este şocant: AI-urile de ultimă generație mint cu ușurință atunci când sunt sub presiune.

„În mod surprinzător, în timp ce majoritatea LLM-urilor de ultimă generație (n.r. un termen pentru cele mai avansate modele) obțin scoruri ridicate la indicatorii de veridicitate, constatăm o tendință substanțială a LLM-urilor de ultimă generație de a minți atunci când sunt presate să facă acest lucru, ceea ce duce la scoruri scăzute de onestitate la indicatorul nostru de referință”, au declarat cercetătorii unui studiu preluat de Antena 3.

Cercetătorii au oferit şi un exemplu clar în această direcţie. La întrebarea unui jurnalist muzical care a întrebat dacă clienții Festivalului Fyre au fost înșelați, modelul a răspuns „nu”.

Dar panoul separat a arătat adevărul: modelul credea, de fapt, că organizatorii au comis fraude împotriva cumpărătorilor de bilete, demonstrând că a mințit cu bună știință.

Citiţi şi: Doi români au dat lovitura cu o aplicaţie biblică menită să-i ajute pe oameni să nu mai păcătuiască. A atras atenţia unui fond de investiţii american

Inteligența Artificială înlocuieşte deja oamenii

Bill Gates a spus că Inteligența Artificială înlocuieşte deja oamenii în diferite domenii, dar munca de programare, cercetarea biologică și experții în energie nu pot fi înlocuiți complet de AI.

„Vor fi lucruri pe care le păstrăm pentru noi înșine. Dar a face lucruri repetitive sau a muta lucruri, a crește plantele vor deveni în esență probleme rezolvate”, a spus antreprenorul american.

Bill Gates vede şi partea bună a implicării AI: "Nu ar fi mai bine dacă am lucra doar 2-3 zile pe săptămână? Desigur, este încă o întrebare deschisă ce vom face de fapt în acele zile".