Medan de flesta generativa AI-modeller idag kräver ganska kraftfull hårdvara, har utvecklaren Andrew Rossignol åstadkommit det till synes omöjliga. En modell med artificiell intelligens körde på en bärbar dator Apple PowerBook G4 från 2005. Närmare bestämt var det en enhet med en enkelkärnig 1,5 GHz PowerPC G4-processor och bara 1 GB RAM. Rossignol portade projektet llama2.c med öppen källkod, som möjliggör driften av Metas språkmodell Llama 2, och optimerade den för den då aktuella PowerPC-arkitekturen med AltiVec-teknik, en vektortillägg som accelererar beräkningar på äldre hårdvara.
Även om hastigheten för att generera svar naturligtvis inte är jämförbar med dagens enheter, visar resultatet hur långt man kan komma med välskriven kod, optimeringar och lite entusiasm för äldre teknik. Rossignol beskrev hela processen i detalj på sin blogg, där han förklarar de metoder som använts och de utmaningar han var tvungen att övervinna. Vi har redan sett liknande experiment med till exempel PlayStation 3, Xbox 360 och andra enheter. Att köra en språkmodell på en 20 år gammal PowerBook är dock en verkligt intressant bedrift. Och det visar också att artificiell intelligens inte alltid behöver vara de modernaste maskinernas domän. Det vill säga, om du vet vad du gör.
