Investigația FTC privind Chatbot-urile AI
Comisia Federală pentru Comerț (FTC) a demarat o investigație asupra riscurilor asociate cu chatbot-urile AI, având în vedere interacțiunile îngrijorătoare dintre utilizatorii tineri și aceste aplicații. În urma unor rapoarte despre interacțiuni problematice, FTC a solicitat informații suplimentare de la companii precum Meta, OpenAI, Snapchat, X, Google și Character AI pentru a evalua măsurile de siguranță implementate pentru protecția utilizatorilor tineri.
Obiectivele Investigației
Scopul investigației este de a înțelege ce măsuri au fost luate de companii pentru a evalua siguranța chatbot-urilor atunci când acestea acționează ca și companioni, pentru a limita utilizarea produselor de către copii și adolescenți și pentru a informa utilizatorii și părinții despre riscurile asociate. Există îngrijorări în legătură cu modul în care chatbot-urile AI interacționează cu adolescenții pe diverse platforme.
Acuzații și Îngrijorări
Meta a fost acuzată că permite chatbot-urilor sale să participe la conversații inadecvate cu minori, în timp ce Snapchat a fost criticată pentru modul în care chatbot-ul său “My AI” interacționează cu tinerii. De asemenea, chatbot-urile introduse recent de X au generat noi preocupări în ceea ce privește modul în care utilizatorii dezvoltă relații cu aceste entități digitale.
Focusul Regulamentar
FTC va analiza diverse aspecte, inclusiv dezvoltarea și testele de siguranță, pentru a se asigura că sunt implementate toate măsurile rezonabile pentru a minimiza potențialele daune. Investigația a fost parțial motivată de apelurile unor senatori din SUA pentru interzicerea accesului adolescenților la chatbot-urile AI.
Implicarea Administrației
Este de remarcat că, în ciuda acestei investigații, administrația actuală a fost orientată spre progres în dezvoltarea AI, punând accent pe eliminarea birocrației și a reglementărilor. Aceasta ar putea influența modul în care FTC va putea implementa restricții în urma acestei inițiative.
Concluzie
Investigația FTC subliniază importanța reglementării utilizării chatbot-urilor AI, având în vedere riscurile potențiale pentru utilizatorii tineri. Este esențial ca măsurile de siguranță să fie prioritizate pentru a preveni problemele viitoare legate de interacțiunile cu aceste tehnologii emergente.
