Confuzia generată de un sistem de alertă AI
Un sistem de securitate AI care a confundat recent un pachet de chipsuri Doritos cu o armă a generat o alarmă falsă, determinând forțele de ordine să intervină la o școală din comitatul Baltimore.
Incidentul de la Parkville High School
Pe 7 noiembrie, poliția a răspuns la o alertă de la Parkville High School, după ce Omnilert, sistemul de detecție a armelor al districtului, a semnalat ceea ce considera a fi o armă pe campus. Autoritățile au ajuns la fața locului în jurul orei 17:00 și au relocat elevii în timp ce echipele căutau în clădire.
Conform declarațiilor Poliției din Baltimore County, nu a fost găsită nicio amenințare.
Contextul incidentului
Principalul școlii Parkville, Maureen Astarita, a informat familiile că poliția a ordonat o verificare de precauție „dintr-o abundență de prudență”, adăugând că elevii au fost mutați rapid într-o locație sigură în timp ce agenții curățau școala.
Problemele sistemului de detecție AI
Incidentul a avut loc la câteva săptămâni după ce Omnilert a identificat greșit un pachet de Doritos al unui elev de 16 ani de la Kenwood High School ca fiind o armă, ceea ce a dus la o intervenție masivă a poliției. Compania a recunoscut ulterior că alerta a fost un „fals pozitiv”, dar a susținut că sistemul „a funcționat conform intenției”, argumentând că rolul său este de a escalada rapid cazurile pentru o verificare umană.
Despre sistemul Omnilert
Omnilert susține că „oferă detecție instantanee a armelor” și „aproape zero alerte false”. Software-ul de detecție a armelor a fost implementat în școlile publice din comitatul Baltimore anul trecut, analizând fluxurile video de supraveghere și notificând poliția dacă detectează ceea ce consideră a fi o armă.
Îngrijorări legate de securitate
Deși de data aceasta nu au fost întâmpinați elevi de către ofițeri înarmați, alertele false consecutive ridică noi îngrijorări cu privire la securitatea bazată pe AI în mediul școlar. După incidentul cu Doritos, oficialii districtului au promis o supraveghere umană mai riguroasă și instruiri anuale pentru a se asigura că poliția nu este desfășurată înainte de verificarea unui raport.
Concluzie
Aceste incidente subliniază necesitatea unei evaluări mai atente și a unui control uman mai riguros în utilizarea tehnologiilor AI pentru securitate în școli, având în vedere impactul potențial asupra siguranței elevilor.
