Patatine fritte Apple Silicon sono tra i processori mobili più potenti al mondo. Ma alcune delle loro capacità rimangono nascoste agli sviluppatori dietro le interfacce ufficiali Applu. Ma ora si scopre che il Neural Engine nel chip Apple M4 può essere molto più interessante di Apple Uno sviluppatore ed esperto di sicurezza che si fa chiamare @0x0SojalSec afferma di essere riuscito a eludere le comuni limitazioni software del chip tramite reverse engineering. Apple M4 e accedere al Neural Engine a un livello molto più basso rispetto a quanto consentito dagli strumenti standard Applu. Il risultato dovrebbe essere la possibilità di utilizzare l'acceleratore AI non solo per eseguire modelli preconfezionati, ma anche per calcoli più complessi associati al loro addestramento.
Il Neural Engine è potente, ma Apple lo tiene sotto controllo
Apple Quando ha presentato il chip M4, Apple ha affermato che il suo Neural Engine poteva gestire fino a 38 trilioni di operazioni al secondo. L'azienda lo ha definito il suo acceleratore AI più veloce di sempre, sottolineandone l'utilizzo per attività di intelligenza artificiale direttamente sul dispositivo. Il Neural Engine è uno dei motivi per cui Apple può elaborare alcune attività di IA localmente su un iPad o Mac senza la necessità di inviare dati a cloudMa in pratica, il Neural Engine ha un ruolo ben definito. Apple Viene utilizzato principalmente per l'inferenza, ovvero per eseguire modelli già addestrati, tramite interfacce pubbliche. Se un'applicazione deve riconoscere un oggetto in una foto, trascrivere il parlato, modificare un'immagine o eseguire un modello di apprendimento automatico, Neural Engine è un aiuto ideale. Tuttavia, per addestrare direttamente i modelli, Apple non offre comunemente agli sviluppatori un approccio semplice e aperto.
Stando alle informazioni disponibili, lo sviluppatore non ha seguito il percorso classico tramite Core ML o Metal. Al contrario, avrebbe dovuto creare un proprio livello di basso livello in grado di comunicare direttamente con l'hardware. In altre parole: non si aspettava ciò che avrebbe ottenuto. Apple consente tramite strumenti ufficiali, ma ho cercato di scoprire di cosa è realmente capace il chip sotto la superficie. Questa è una differenza fondamentale. Core ML è un modo comodo e sicuro per ottenere machine learning in applicazioni per iPhone, iPad o Mac. Ma allo stesso tempo, mantiene gli sviluppatori entro i limiti che impone. AppleL'ingegneria inversa tenta di aggirare queste barriere e di avvicinarsi il più possibile all'hardware stesso.
Potrebbe interessarti
Se l'affermazione è confermata, non si tratta solo di una curiosità tecnica per pochi appassionati. Dimostra che dispositivi come iPad Pro oppure i Mac con chip M4 potrebbero avere un potenziale molto maggiore per l'IA locale di quanto sembri nell'uso quotidiano. Oggi, molte persone associano l'addestramento dei modelli di IA principalmente a costose schede grafiche, cloudserver e hardware da Nvidia. Apple ma da anni vende acceleratori specializzati molto potenti nei suoi dispositivi. Il problema non è necessariamente la mancanza di potenza. Il problema è che Apple non conferisce agli sviluppatori il pieno controllo su di esso.
Tuttavia, è necessario frenare le aspettative eccessive. Il fatto che il Neural Engine possa essere utilizzato per calcoli più avanzati non significa che l'iPad sostituirà improvvisamente i giganteschi server di intelligenza artificiale. L'addestramento locale di piccoli modelli, gli esperimenti, la messa a punto o i calcoli specializzati sono diversi dall'addestramento di grandi modelli linguistici con centinaia di miliardi di parametri. Il vero significato di questa dimostrazione risiede altrove. Suggerisce che Apple ha a disposizione hardware che potrebbe essere estremamente potente per l'IA locale se decidesse di offrire più opzioni agli sviluppatori.
Galleria fotografica
Apple rallenta il software più dell'hardware
L'intero caso riapre quindi la vecchia questione su Applu. L'azienda spesso produce hardware estremamente performante, ma allo stesso tempo esercita un controllo molto rigoroso su ciò che gli sviluppatori possono farne. Questo ha i suoi vantaggi in termini di stabilità, sicurezza e privacy. Ma con l'IA, tale chiusura può anche essere un ostacolo. Man mano che l'IA si sposta più direttamente nei dispositivi, chip come l'M4, l'M5 o i loro successori diventeranno più importanti. E la pressione per Appleper dimostrare se Neural Engine rimarrà una parte in gran parte chiusa del proprio ecosistema, o se diventerà uno strumento veramente più aperto per gli sviluppatori.
Potrebbe interessarti
Quindi il punto più importante di tutta la faccenda non è che qualcuno abbia "hackerato l'iPad". Ciò che è più interessante è la scoperta che Apple M4 potrebbe avere capacità di intelligenza artificiale locale significativamente più ampie rispetto a oggi Apple offerte ufficiali. Se esperimenti simili dimostreranno che il Neural Engine può fare di più che eseguire in modo sicuro modelli preconfezionati, questa potrebbe essere una notizia cruciale per il futuro dell'IA su iPhone, iPad e Mac. Apple Potrebbe già vendere hardware a milioni di persone che potrebbe fare molto di più. Semplicemente, per ora lo tiene sotto chiave. Il codice sorgente del progetto, dove lo sviluppatore sta lavorando per sbloccare tutto il potenziale del chip. Puoi trovare M4 su GitHub.
Quando clicco sul feed, non vengo reindirizzato al feed stesso. Allo stesso tempo, nell'articolo non c'è alcun riferimento allo sviluppatore, all'articolo o a qualcosa di simile.
Mi dispiace, non parlo slovacco, ma se ho capito bene, il link alla fonte è qui - https://github.com/maderix/ANE