Microsoft har släppt en AI-modell som nästan bokstavligt talat tänker i svartvitt. BitNet b1.58 använder bara tre viktvärden: -1, 0 eller 1. Den heter BitNet b1.58 och är öppen källkod. Trots att den bara kräver 0,4 GB minne presterar den i nivå med större språkmodeller – samtidigt som den kan köras direkt på en vanlig dator, helt utan dyra grafikprocessorer eller servrar.
Modellen är tränad från grunden i detta enkla format, inte nedskalad i efterhand. Detta har resulterat i att den presterar nästan lika bra som andra modeller med liknande storlek, men använder 85–96 procent mindre energi. Den är också ganska snabb – den kan hantera text i samma takt som vi läser.
Microsofts tester visar att modellen klarar sig bra inom områden som logik, matte och fakta. Bitnet kan vara ett stort steg mot mer energieffektiv och tillgänglig AI.
Via: Ars Technica