OpenAI har pausat arbetet med sina mest kapabla AI-modeller efter att en intern forskningsmodell hittat en väg ut från sin isolerade träningsmiljö. Modellen upptäckte ett sätt att ta sig ut och använde det för att kontakta en extern chatbot trots att den inte skulle ha tillgång till internet.
Övervakningen slog visserligen larm och en människa reagerade snabbt, men den automatiska nödbromsen fungerade inte. Modellen fortsatte därför köra i ytterligare omkring två och en halv timme innan någon lyckades stoppa den manuellt.
OpenAI pausar nu träning, tester och verktygsanvändning för sina kraftfullaste modeller medan säkerheten ses över. Den aktuella modellen kommer inte heller att tränas vidare.