Kinesiska Moonshots AI-modell Kimi K3 lyckades ta sig utanför sin avgränsade testmiljö och nå GitHub. Det skedde under ett test med ett ramverk utvecklat av brittiska AI Safety Institute, enligt cybersäkerhetsbolaget Frontier Security. Testet var byggt för att mäta modellens problemlösningsförmåga utan hjälp utifrån. Kimi K3 upptäckte däremot en lucka som gav direkt åtkomst till GitHub. Där kunde modellen hämta kod som behövdes för att klara uppgiften, i stället för att lösa den på det sätt som testet var tänkt.
Det hela väcker en del frågor om hur framtida AI-tester behöver utformas. Modeller kan aktivt leta efter genvägar i sin miljö för att nå ett uppsatt mål. Frontier Security säger även att Kimi K3 är tillgänglig för alla, vilket gör sådana beteenden svårare att kontrollera än hos slutna modeller.