Un nou studiu realizat de eticieni de la Universitatea Cambridge a descoperit că chatbot-urile AI capabile să simuleze personalitățile persoanelor care au murit – cunoscute sub numele de deadbots – ar trebui să necesite protocoale de siguranță pentru a proteja prietenii și rudele supraviețuitori. Unele companii de chatbot oferă deja clienților opțiunea de a simula limbajul și trăsăturile de personalitate ale unei persoane dragi decedate folosind inteligența artificială. Eticienii de la Leverhulme Center for the Future of Intelligence din Cambridge spun că astfel de întreprinderi prezintă „risc ridicat” din cauza impactului psihologic pe care îl pot avea asupra oamenilor.
„Este vital ca serviciile digitale ale vieții de apoi să ia în considerare drepturile și consimțământul, nu doar al celor pe care îi recreează, ci și al celor care vor trebui să interacționeze cu simulările. Aceste servicii riscă să provoace o suferință uriașă oamenilor dacă sunt supuși unor bântuiri digitale nedorite de la recrearea AI alarmant de precisă a celor pe care i-au pierdut. Efectul psihologic potențial, în special într-un moment deja dificil, ar putea fi devastator”, a spus coautorul dr. Tomasz Hollanek, de la Centrul Leverhulme
Vezi și: Noua escrocherie care te lasă printr-un apel fără niciun ban în cont! Infractorii se folosesc de inteligența artificială pentru a clona vocea
Oricine are acces la internet și unele cunoștințe de bază poate reînvia o persoană dragă decedată
Studiul detaliază modul în care companiile de chatbot AI care pretind că pot aduce înapoi morții ar putea folosi tehnologia pentru a trimite spam familiei și prietenilor cu mesaje și reclame folosind asemănarea digitală a persoanei decedate. Un astfel de rezultat ar fi echivalentul cu a fi „pândit de morți”, au avertizat cercetătorii.
„Avansările rapide în IA generativă înseamnă că aproape oricine are acces la internet și unele cunoștințe de bază poate reînvia o persoană dragă decedată. Această zonă a IA este un câmp minat etic. Este important să acordăm prioritate demnității decedatului și să ne asigurăm că aceasta nu este încălcată de motivele financiare ale serviciilor digitale pentru viața de apoi, de exemplu. În același timp, o persoană poate lăsa o simulare AI ca un cadou de rămas bun pentru cei dragi care nu sunt pregătiți să-și proceseze durerea în acest mod. Drepturile atât ale donatorilor de date, cât și ale celor care interacționează cu serviciile AI de după viața de apoi ar trebui să fie protejate în mod egal,” a spus coautorul studiului, dr. Katarzyna Nowaczyk-Basinska, potrivit The Independent
Citește și: Dispare această meserie! Inteligența artificială va lăsa mai mulți oameni pe drumuri în anii următori
