Чипс Apple Silicon са сред най-мощните мобилни процесори в света. Но някои от техните възможности остават скрити от разработчиците зад официалните интерфейси. Appлу. Но сега се оказва, че невронният двигател в чипа Apple M4 може да бъде много по-интересно от Apple обикновено позволява експлоатация. Разработчик и експерт по сигурността, известен с прякора @0x0SojalSec, твърди, че е успял да заобиколи често срещаните софтуерни ограничения на чипа чрез обратно инженерство. Apple M4 и достъп до невронния двигател на много по-ниско ниво, отколкото позволяват стандартните инструменти Applu. Резултатът би трябвало да е възможността за използване на AI ускорителя не само за изпълнение на готови модели, но и за по-взискателни изчисления, свързани с тяхното обучение.
Невронният двигател е мощен, но Apple държи го под контрол
Apple При представянето на чипа M4, Apple заяви, че техният Neural Engine може да обработва до 38 трилиона операции в секунда. Компанията го нарече най-бързия си AI ускорител досега, като подчерта използването му за AI задачи директно на устройството. Neural Engine е една от причините, поради които... Apple може да обработва някои задачи с изкуствен интелект локално на iPad или Mac, без да е необходимо да изпраща данни до cloudНо на практика невронният двигател има ясно определена роля. Apple Използва го предимно за извод, т.е. за изпълнение на вече обучени модели чрез публични интерфейси. Ако дадено приложение трябва да разпознае обект на снимка, да транскрибира реч, да редактира изображение или да изпълни модел за машинно обучение, Neural Engine е идеалният помощник. Pro директно обучение на модели, обаче Apple обикновено не предлага на разработчиците прост и отворен подход.
Според наличната информация, разработчикът не е избрал класическия път чрез Core ML или Metal. Вместо това е трябвало да създаде свой собствен ниско ниво на обработка, който да може да комуникира директно с хардуера. С други думи: не е очаквал това, което ще получи. Apple позволява чрез официални инструменти, но се опита да разбере на какво наистина е способен чипът под повърхността. Това е фундаментална разлика. Core ML е удобен и безопасен начин да се сдобиете machine learning в приложения за iPhone, iPad или Mac. Но в същото време, той държи разработчиците в рамките на ограниченията, които определя AppleОбратното инженерство се опитва да заобиколи тези бариери и да се доближи до самия хардуер.
Може да се интересувате от
Ако твърдението се потвърди, то не е просто технически куриоз за няколко ентусиасти. То показва, че устройства като iPad Pro или Mac-овете с чип M4 може да имат много по-голям потенциал за локален изкуствен интелект, отколкото изглежда в ежедневната употреба. Днес много хора свързват обучаващите модели на изкуствен интелект главно със скъпи графични карти, cloudсървъри и хардуер от Нвидиа. Apple но от години продава много мощни специализирани ускорители в своите съоръжения. ProПроблемът не е непременно в липсата на добро представяне. ProПроблемът е, че Apple това не дава на разработчиците пълен контрол над него.
Необходимо е обаче да се ограничат прекомерните очаквания. Фактът, че Neural Engine може да се използва за по-сложни изчисления, не означава, че iPad внезапно ще замени гигантските AI сървъри. Локалното обучение на малки модели, експерименти, фина настройка или специализирани изчисления са различни от обучението на големи езикови модели със стотици милиарди параметри. Истинското значение на тази демонстрация се крие другаде. Тя предполага, че Apple разполага с хардуер, който би могъл да бъде изключително мощен за локален изкуствен интелект, ако реши да отвори повече възможности за разработчиците.
Фото галерия
Apple забавя софтуера повече от хардуера
По този начин целият случай отново повдига стария въпрос за Applu. Компанията често произвежда изключително мощен хардуер, но в същото време има много строг контрол върху това какво разработчиците могат да правят с него. Това има своите предимства по отношение на стабилност, сигурност и поверителност. Но с изкуствения интелект, подобно затваряне може да бъде и пречка. Тъй като изкуственият интелект се насочва все по-директно към устройствата, чипове като M4, M5 или техните наследници ще стават по-важни. И натискът да Appleда покаже дали Neural Engine ще остане до голяма степен затворена част от собствената си екосистема или ще се превърне в наистина по-отворен инструмент за разработчиците.
Може да се интересувате от
Така че най-важното в цялата работа не е, че някой е „хакнал iPad-а“. По-интересното е откритието, че Apple M4 може да има значително по-широки възможности за локален изкуствен интелект, отколкото днес Apple официално предлага. Ако подобни експерименти покажат, че Neural Engine може да прави повече от това просто безопасно да изпълнява готови модели, това може да е ключова новина за бъдещето на изкуствения интелект на iPhone, iPad и Mac. Apple Може би вече продава хардуер на милиони хора, който би могъл да прави много повече. Засега просто го държи под ключ. Изходният код на проекта, където разработчикът работи върху отключването на пълния потенциал на чипа. Можете да намерите M4 в Github.
Когато щракна върху емисията, не ме отвежда до самата емисия. В същото време, никъде в статията няма препратка към разработчика, статията или нещо подобно.
Съжалявам, не говоря словашки, но ако съм ви разбрал правилно, линкът към източника е тук - https://github.com/maderix/ANE