Inteligența artificială (AI) a devenit o componentă tot mai importantă a vieții de zi cu zi. Totuși, dezvoltarea sa necontrolată ar putea crea mari probleme la nivel planetar în viitor. Această previziune sumbră a fost făcută recent de cercetătorul Yoshua Bengio, unul dintre pionierii sistemelor AI.
Trăim în era tehnologiei, iar acest lucru nu mai este o noutate pentru nimeni. În acest context, în ultimii ani, inteligența artificială (AI) și-a găsit loc tot mai mult în toate activitățile umane.
Potrivit cercetătorului Yoshua Bengio, unul dintre pionierii sistemelor AI, în ciuda ajutorului imens pe care-l oferă în toate domeniile de activitate, inteligența artificială ar putea deveni un adevărat pericol pentru omenire.
Inteligența artificială ar putea deveni o amenințare pentru omenire
În cadrul unui interviu oferit celor de la Live Science, Yoshua Bengio s-a declarat profund îngrijorat de ritmul de dezvoltare şi de răspândirea accelerată a acestei tehnologii. El consideră că AI are potențialul de a distruge structura societății umane, prezentând riscuri uriașe pentru omenire, unele dintre ele încă nebănuite.
„Una dintre analogiile pe care le folosesc foarte mult este cea a întregii omeniri care conduce pe un drum necunoscut şi în faţa sa este un perete de ceaţă. Ne îndreptăm spre acea ceaţă şi am putea fi pe un drum de munte şi în faţa noastră s-ar putea afla o trecătoare foarte periculoasă pe care nu o putem vedea suficient de limpede. Deci ce putem face? Continuăm să mergem cu viteză şi să sperăm că totul va fi bine, sau încercăm să venim cu nişte soluţii tehnologice? Soluţia politică ne spune să aplicăm principiul precauţiei: trebuie să încetinim dacă nu suntem siguri. Soluţia tehnică spune că trebuie să găsim modalităţi să vedem prin ceaţă şi poate să echipăm vehiculul cu dispozitive de protecţie", a declarat Yoshua Bengio.
Previziunile nu sunt deloc optimiste
În plus, Yoshua Bengio a subliniat că riscurile legate de utilizarea şi dezvoltarea AI sunt cât se poate de concrete chiar şi în prezent. Mai mult, cercetătorul susține că există mai multe pericole majore care ar putea să apară odată cu dezvoltarea tot mai accelerată a inteligenței artificiale, care la un moment dat ar putea fi folosită în scopuri negative, ba chiar să preia controlul deținut în prezent de oameni.
„Există şi teste care arată modul în care aceste sisteme pot ajuta teroriştii. Recentul ChatGPT o1 a adus o modificare a acestui risc de la nivelul scăzut la cel mediu (...) Apoi, când vom ajunge cu AI-ul la nivelul de superinteligenţă apar două riscuri majore. Primul este pierderea controlului uman, iar dacă maşinile superinteligente vor avea un obiectiv de autoconservare, atunci scopul lor ar putea fi să distrugă omenirea pentru ca să nu le putem opri (...) Celălalt pericol, dacă primul nu se concretizează, este ca oameni să folosească puterea AI pentru a obţine controlul asupra întregii omeniri într-o dictatură planetară.
Lucrurile devin din ce în ce mai nesigure atunci când întrebăm ce reprezintă totul (în ceea ce priveşte AGI). Însă cred că este o întrebare greşită. Întrebarea mea este, în cazul maşinilor care sunt suficient de inteligente pentru a dezvolta capacităţi specifice, ce le-ar putea face să fie periculoase pentru noi? Ar putea fi folosite pentru atacuri cibernetice? Conceperea de arme biologice? Convingerea oamenilor să facă anumite lucruri? Vor dispune ele de capacitatea de a se copia în alte maşini sau pe internet în pofida dorinţei creatorilor lor?”, a mai spus cercetătorul.
