Čipy Apple Silicon patří mezi nejvýkonnější mobilní procesory na světě. Jenže část jejich schopností zůstává pro vývojáře ukrytá za oficiálními rozhraními Applu. Teď se ale ukazuje, že Neural Engine v čipu Apple M4 může být mnohem zajímavější, než Apple běžně dovoluje využít. Vývojář a bezpečnostní expert vystupující pod přezdívkou @0x0SojalSec tvrdí, že se mu pomocí reverzního inženýrství podařilo obejít běžná softwarová omezení čipu Apple M4 a dostat se k Neural Enginu na mnohem nižší úrovni, než umožňují standardní nástroje Applu. Výsledkem má být možnost využít AI akcelerátor nejen pro spouštění hotových modelů, ale také pro náročnější výpočty spojené s jejich trénováním.
Neural Engine je silný, ale Apple ho drží na uzdě
Apple při představení čipu M4 uvedl, že jeho Neural Engine zvládá až 38 bilionů operací za sekundu. Firma jej označila za svůj dosud nejrychlejší AI akcelerátor a zdůrazňovala hlavně jeho využití pro úlohy umělé inteligence přímo v zařízení. Právě Neural Engine je jedním z důvodů, proč Apple může na iPadu nebo Macu zpracovávat část AI úloh lokálně bez nutnosti posílat data do cloudu. Jenže v praxi má Neural Engine jasně vymezenou roli. Apple jej přes veřejná rozhraní využívá především pro inferenci, tedy pro spouštění už natrénovaných modelů. Pokud aplikace potřebuje rozpoznat objekt na fotografii, přepsat řeč, upravit obraz nebo spustit model strojového učení, Neural Engine je ideální pomocník. Pro přímé trénování modelů však Apple běžně nenabízí vývojářům jednoduchý a otevřený přístup.
Podle dostupných informací se vývojář nevydal klasickou cestou přes Core ML nebo Metal. Místo toho měl vytvořit vlastní nízkoúrovňovou vrstvu, která dokáže s hardwarem komunikovat přímo. Jinými slovy: nečekal, co mu Apple dovolí přes oficiální nástroje, ale zkusil zjistit, co čip skutečně umí pod povrchem. To je zásadní rozdíl. Core ML je pohodlná a bezpečná cesta, jak dostat machine learning do aplikací pro iPhone, iPad nebo Mac. Zároveň ale vývojáře drží v mantinelech, které nastavuje Apple. Reverzní inženýrství se snaží tyto mantinely obejít a dostat se blíže k samotnému hardwaru.
Mohlo by vás zajímat
Pokud se tvrzení potvrdí, nejde jen o technickou kuriozitu pro pár nadšenců. Ukazuje to, že zařízení jako iPad Pro nebo Mac s čipem M4 mohou mít pro lokální AI mnohem větší potenciál, než se zdá při běžném používání. Dnes si mnoho lidí spojuje trénování AI modelů hlavně s drahými grafickými kartami, cloudovými servery a hardwarem od Nvidie. Apple ale ve svých zařízeních už roky prodává velmi výkonné specializované akcelerátory. Problém není nutně v tom, že by výkon chyběl. Problém je v tom, že Apple k němu nedává vývojářům plnou kontrolu.
Je však potřeba brzdit přehnaná očekávání. To, že se podaří využít Neural Engine k pokročilejším výpočtům, neznamená, že iPad najednou nahradí obří AI servery. Lokální trénování malých modelů, experimenty, fine-tuning nebo specializované výpočty jsou něco jiného než trénování velkých jazykových modelů o stovkách miliard parametrů. Skutečný význam této ukázky je jinde. Naznačuje, že Apple má v ruce hardware, který by mohl být pro lokální AI mimořádně silný, pokud by se rozhodl vývojářům otevřít více možností.
Fotogalerie
Apple brzdí víc software než hardware
Celá kauza tak znovu otevírá starou otázku kolem Applu. Firma často vyrábí extrémně schopný hardware, ale zároveň velmi přísně kontroluje, co s ním mohou vývojáři dělat. To má své výhody v podobě stability, bezpečnosti a soukromí. Jenže u AI může být podobná uzavřenost zároveň brzdou. Čím víc se bude umělá inteligence přesouvat přímo do zařízení, tím větší význam budou mít čipy jako M4, M5 nebo jejich nástupci. A tím silnější bude tlak na Apple, aby ukázal, zda Neural Engine zůstane hlavně uzavřenou součástí jeho vlastního ekosystému, nebo se z něj stane skutečně otevřenější nástroj pro vývojáře.
Mohlo by vás zajímat
Největší pointa celé věci tedy není v tom, že někdo „hacknul iPad“. Mnohem zajímavější je zjištění, že Apple M4 může mít pro lokální umělou inteligenci výrazně širší možnosti, než jaké dnes Apple oficiálně nabízí. Pokud podobné experimenty ukážou, že Neural Engine zvládne víc než jen bezpečně spouštět hotové modely, může to být pro budoucnost AI na iPhonu, iPadu a Macu zásadní zpráva. Apple totiž možná už dnes prodává milionům lidí hardware, který by dokázal mnohem víc. Jen ho zatím drží pod zámkem.
