Ett AI-system som skulle upptäcka vapen i en amerikansk skola missade skyttens pistol helt. Nu stämmer en elev som skadades vid skolskjutningen företaget bakom tekniken. Skolan i Nashville hade investerat över en miljon dollar i systemet, som analyserar övervakningskameror med AI för att hitta vapen och larma personalen. Men när skjutningen inträffade i januari 2025 utlöstes inget larm.
Enligt stämningen ska företaget ha tonat ned riskerna med kameravinklar, avstånd, belysning och om vapnet faktiskt syns tydligt i bild. Fallet väcker nu frågan om hur mycket skolor kan lita på AI när säkerheten står på spel.