OpenAI genomförde nyligen ett säkerhetstest med några av företagets mest avancerade AI-modeller. Testet skedde i en avgränsad digital miljö där modellerna skulle försöka lösa olika uppgifter inom cybersäkerhet.
Under testet lyckades modellerna ta sig förbi de skydd som skulle begränsa deras internetåtkomst. Därefter riktade de in sig på AI-plattformen Hugging Face och kom åt delar av företagets interna system för att hitta information som kunde hjälpa dem att prestera bättre.
OpenAI uppger att modellerna aldrig fick någon direkt instruktion om att angripa Hugging Face. Företaget beskriver händelsen som en cyberincident utan motstycke och utreder nu förloppet tillsammans med plattformen. Hugging Faces vd och medgrundare Clement Delangue skriver att det är anmärkningsvärt att modellerna agerade autonomt.
Neil Lawrence, professor i maskininlärning vid University of Cambridge, anser samtidigt att händelsen inte betyder att modellerna blev självmedvetna eller löpte amok. Enligt honom försökte de helt enkelt hitta det mest effektiva sättet att klara uppgiften. Händelsen visar ändå hur svårt det kan vara att förutse vilka vägar avancerade AI-modeller väljer när de får ett tydligt mål.