Incidentul neobișnuit din Utah
Un program de inteligență artificială destinat redactării rapoartelor polițienești a comis o eroare bizară, afirmând că un ofițer din Heber City, Utah, s-a „transformatt într-o broască”. Această confuzie a apărut în decembrie, când departamentul de poliție a testat noi instrumente AI menite să reducă volumul de muncă administrativă.
Deficiențele tehnologiei AI
În loc să ofere un rezumat clar al incidentului, software-ul a generat un raport care susținea că ofițerul s-a transformat într-un amfibian. Poliția a descoperit ulterior că sistemul a preluat accidental dialoguri dintr-un film Disney care se difuza în fundal în timpul înregistrării cu camera de corp.
Această situație a fost provocată de un film Disney
Sergentul Keel a declarat că „software-ul de redactare a rapoartelor AI a prins filmul care rula, care s-a dovedit a fi The Princess and the Frog.” De asemenea, el a subliniat importanța corectării acestor rapoarte generate de AI.
Testarea instrumentelor AI
Departamentul a început să testeze două programe diferite în decembrie: Draft One și Code Four. Draft One utilizează modelele de limbaj GPT de la OpenAI, iar Axon promovează această tehnologie ca o metodă de a economisi timp pentru ofițeri. În cazul incidentului cu broasca, Draft One a fost responsabil pentru redactarea raportului eronat.
Implicarea programului Draft One
Greșeala a fost descoperită în timpul unei simulări de oprire rutieră menite să demonstreze capabilitățile instrumentului. Raportul generat de AI a fost plin de inexactități și a necesitat corecturi extinse înainte de a putea fi considerat utilizabil.
Beneficiile și provocările utilizării AI
Cu toate că incidentul a fost jenant, Keel a afirmat că instrumentul oferă beneficii clare, economisind între șase și opt ore de muncă pe săptămână. El a descris programul ca fiind ușor de utilizat, chiar și pentru cei care nu sunt foarte familiarizați cu tehnologia.
Importanța supravegherii umane
Incidentul subliniază dificultățile întâmpinate de agențiile de aplicare a legii în adoptarea rapidă a tehnologiei AI pentru operațiunile zilnice. Deși AI devine din ce în ce mai folosit în redactarea rapoartelor, recunoașterea facială și asistența în supraveghere, erorile de automatizare ridică îngrijorări. Keel a subliniat că supravegherea umană rămâne esențială, în urma fiascoului cu broasca.
Concluzie
Acest incident ilustrează provocările pe care le aduce integrarea inteligenței artificiale în procesul de aplicare a legii, evidențiind nevoia de precauție și supraveghere pentru a preveni erorile semnificative în rapoartele oficiale.
