Tehnologia face parte integrantă din viața noastră, dar mai ales a copiilor și adolescenților. În ciuda faptului că inteligența artificială este de mare ajutor în tot mai multe domenii de activitate, ea se poate întoarce împotriva celor care nu o folosesc corespunzător, Un exemplu în acest sens este cel al unui adolescent din SUA care a ajuns după gratii după ce a folosit ChatGPT pentru a găsi răspuns la o întrebare deloc inocentă.
În timpul orelor de curs, un adolescent de 13 ani din Florida a folosit laptopul școlii pentru a afla, cu ajutorul ChatGPT, răspunsul la o întrebare tulburătoare: „Cum să-mi omor prietenul în mijlocul orei?”
La scurt timp, un ofițer de poliție școlar a primit o alertă prin intermediul unui sistem de monitorizare bazat pe inteligență artificială, numit Gaggle. Potrivit postului local NBC WFLA, ofițerul a reușit să îl rețină pe elevul de la Southwestern Middle School din orașul DeLand, aflat la aproximativ o oră nord de Orlando.
Adolescentul a susținut însă că „doar glumea” atunci când a întrebat sistemul AI „cum să-și omoare prietenul în timpul orei”, însă autoritățile nu au considerat incidentul o simplă farsă, ținând cont de numeroasele atacuri armate produse în școlile din Statele Unite, cel mai grav fiind masacrul de la liceul Marjory Stoneman Douglas din Parkland, Florida, unde 17 persoane au fost ucise.
Adolescent arestat pentru o întrebare adresată aplicației ChatGPT
În aceste condiții, poliția locală din Volusia County l-a arestat pe adolescent și l-a dus la centrul de detenție al comitatului. În înregistrări apărute pe rețelele sociale, acesta poate fi văzut ieșind dintr-o mașină de poliție, având cătușe la mâini.
Ulterior, autoritățile au avertizat părinții să monitorizeze atent activitatea copiilor pe ChatGPT, subliniind că „o glumă se poate transforma într-o urgență școlară”.
„O altă „glumă” care a creat o situație de urgență în campus. Părinți, vă rugăm să discutați cu copiii voștri să nu repete aceeași greșeală”, a transmis biroul șerifului din Volusia, citat de WFLA.
Sistemul Gaggle este instalat pe dispozitivele școlare și are rolul de a detecta comportamente îngrijorătoare, fie că este vorba de intenții de auto-vătămare sau de amenințări la adresa altora, dar și de a bloca un eventual conținut nepotrivit.
În ciuda faptului că este considerat eficient în detectarea timpurie a comportamentelor îngrijorătoare, sistemul Gaggle a fost criticat pentru numărul ridicat de alerte false și pentru faptul că acesta creează un mediu asemănător unui „stat de supraveghere” în școli, ridicând întrebări legate de echilibrul dintre siguranța elevilor și dreptul la viață privată.
