I amerikanska staden Baltimore greps 16-årige Taki Allen efter att skolans AI-övervakning felaktigt larmat om att han bar vapen. Systemet från Omnilert reagerade på något ”vapenliknande” i hans ficka – men det var bara en påse Doritos. Polisen omringade honom efter hans träningspass och beordrade honom att lägga sig på marken innan misstaget upptäcktes.
Skoldistriktet i Baltimore County har investerat över 2,6 miljoner dollar i Omnilerts AI, som analyserar bilder från tusentals kameror för att upptäcka vapen. Företaget säger att tekniken ska förhindra skolskjutningar, men händelsen har väckt frågor om säkerheten i att låta algoritmer avgöra när polisen ska ingripa. Flera elever har fått samtalsstöd efter incidenten.