Chips Apple Silicon er blant de kraftigste mobilprosessorene i verden. Men noen av funksjonene deres forblir skjult for utviklere bak offisielle grensesnitt Applu. Men nå viser det seg at nevrale motoren i brikken Apple M4 kan være mye mer interessant enn Apple tillater ofte utnyttelse. En utvikler og sikkerhetsekspert som går under kallenavnet @0x0SojalSec hevder at han har klart å omgå brikkens vanlige programvarebegrensninger ved å reversere utviklingen av den. Apple M4 og få tilgang til nevrale motoren på et mye lavere nivå enn standardverktøy tillater AppResultatet bør være muligheten til å bruke AI-akseleratoren ikke bare til å kjøre ferdige modeller, men også til mer krevende beregninger knyttet til treningen deres.
Nevralmotoren er kraftig, men Apple holder ham i sjakk
Apple Da Apple introduserte M4-brikken, sa de at Neural Engine kunne håndtere opptil 38 billioner operasjoner per sekund. Selskapet kalte den sin raskeste AI-akselerator hittil, og understreket bruken av den til AI-oppgaver rett på enheten. Neural Engine er en av grunnene til at Apple kan behandle noen AI-oppgaver lokalt på en iPad eller Mac uten å måtte sende data til cloudMen i praksis har den nevrale motoren en klart definert rolle. Apple Den bruker den primært til inferens, dvs. for å kjøre allerede trente modeller, via offentlige grensesnitt. Hvis et program trenger å gjenkjenne et objekt i et bilde, transkribere tale, redigere et bilde eller kjøre en maskinlæringsmodell, er Neural Engine den ideelle hjelperen. Pro direkte trening av modeller, men Apple tilbyr vanligvis ikke utviklere en enkel og åpen tilnærming.
Ifølge tilgjengelig informasjon valgte ikke utvikleren den klassiske ruten via Core ML eller Metal. I stedet skulle han lage sitt eget lavnivålag som kunne kommunisere direkte med maskinvaren. Med andre ord: han forventet ikke det han ville få. Apple tillater gjennom offisielle verktøy, men prøvde å finne ut hva brikken egentlig er i stand til under overflaten. Det er en fundamental forskjell. Core ML er en praktisk og trygg måte å få machine learning inn i søknader om iPhone, iPad eller Mac. Men samtidig holder den utviklere innenfor grensene den setter AppleOmvendt utvikling forsøker å omgå disse barrierene og komme nærmere selve maskinvaren.
Du kan være interessert i
Hvis påstanden blir bekreftet, er det ikke bare en teknisk kuriositet for noen få entusiaster. Det viser at enheter som iPad Pro eller Mac-er med M4-brikken kan ha et mye større potensial for lokal AI enn det ser ut til i daglig bruk. I dag forbinder mange med å trene AI-modeller hovedsakelig med dyre grafikkort, cloudservere og maskinvare fra Nvidia. Apple men det har solgt svært kraftige spesialiserte akseleratorer i sine anlegg i årevis. ProProblemet er ikke nødvendigvis at ytelsen mangler. ProProblemet er at Apple det gir ikke utviklerne full kontroll over det.
Det er imidlertid nødvendig å dempe overdrevne forventninger. Det faktum at den nevrale motoren kan brukes til mer avanserte beregninger betyr ikke at iPaden plutselig vil erstatte gigantiske AI-servere. Lokal trening av små modeller, eksperimenter, finjustering eller spesialiserte beregninger er forskjellig fra trening av store språkmodeller med hundrevis av milliarder parametere. Den virkelige betydningen av denne demonstrasjonen ligger et annet sted. Den antyder at Apple har maskinvare for hånden som kan være ekstremt kraftig for lokal AI hvis den bestemmer seg for å åpne opp flere alternativer for utviklere.
Fotogalerie
Apple bremser programvare mer enn maskinvare
Hele saken reiser dermed opp igjen det gamle spørsmålet om Applu. Selskapet lager ofte ekstremt kapabel maskinvare, men samtidig har de svært strenge kontroller på hva utviklere kan gjøre med den. Dette har sine fordeler når det gjelder stabilitet, sikkerhet og personvern. Men med AI kan slik nedleggelse også være en hindring. Etter hvert som AI beveger seg mer direkte inn i enheter, vil brikker som M4, M5 eller deres etterfølgere bli viktigere. Og presset til å Applefor å vise om Neural Engine vil forbli en stort sett lukket del av sitt eget økosystem, eller om det vil bli et virkelig mer åpent verktøy for utviklere.
Du kan være interessert i
Så det største poenget med det hele er ikke at noen «hacket iPaden». Det som er mer interessant er oppdagelsen av at Apple M4 kan ha betydelig bredere muligheter for lokal kunstig intelligens enn i dag Apple offisielt tilbyr. Hvis lignende eksperimenter viser at Neural Engine kan gjøre mer enn bare å kjøre ferdige modeller på en sikker måte, kan dette være avgjørende nyheter for fremtiden til AI på iPhone, iPad og Mac. Apple Den selger kanskje allerede maskinvare til millioner av mennesker som kunne gjort mye mer. Den holder det bare under lås og slå foreløpig. Kildekoden til prosjektet, der utvikleren jobber med å låse opp brikkens fulle potensial. Du finner M4 på Github.
Når jeg klikker på feeden, kommer jeg ikke til feeden. Samtidig er det ingen referanse til utvikleren, artikkelen eller noe lignende noe sted i artikkelen.
Beklager, jeg snakker ikke slovakisk, men hvis jeg forsto deg riktig, er lenken til kilden her - https://github.com/maderix/ANE