Żetony Apple Silicon Należą do najpotężniejszych procesorów mobilnych na świecie. Jednak niektóre z ich możliwości pozostają ukryte przed programistami za oficjalnymi interfejsami. Applu. Ale teraz okazuje się, że silnik neuronowy w chipie Apple M4 może być o wiele ciekawsze niż Apple często pozwala na eksploatację. Programista i ekspert ds. bezpieczeństwa, występujący pod pseudonimem @0x0SojalSec, twierdzi, że udało mu się ominąć typowe ograniczenia programowe układu scalonego, stosując inżynierię wsteczną. Apple M4 i dostęp do silnika neuronowego na znacznie niższym poziomie niż pozwalają na to standardowe narzędzia Applu. Rezultatem powinna być możliwość wykorzystania akceleratora AI nie tylko do uruchamiania gotowych modeli, ale także do bardziej wymagających obliczeń związanych z ich trenowaniem.
Silnik neuronowy jest potężny, ale Apple trzyma go w ryzach
Apple Wprowadzając na rynek układ M4, Apple twierdziło, że jego silnik neuronowy może obsłużyć do 38 bilionów operacji na sekundę. Firma nazwała go swoim najszybszym akceleratorem AI, podkreślając jego wykorzystanie do zadań AI bezpośrednio na urządzeniu. Silnik neuronowy jest jednym z powodów, dla których… Apple może przetwarzać niektóre zadania AI lokalnie na iPadzie lub komputerze Mac bez konieczności wysyłania danych do cloudW praktyce jednak rola silnika neuronowego jest jasno określona. Apple Wykorzystuje go głównie do wnioskowania, czyli do uruchamiania już wytrenowanych modeli za pośrednictwem interfejsów publicznych. Jeśli aplikacja musi rozpoznać obiekt na zdjęciu, przepisać mowę, edytować obraz lub uruchomić model uczenia maszynowego, Neural Engine jest idealnym rozwiązaniem. Pro bezpośrednie szkolenie modeli, jednakże Apple nie oferuje zazwyczaj programistom prostego i otwartego podejścia.
Według dostępnych informacji, deweloper nie wybrał klasycznej ścieżki, jaką jest Core ML czy Metal. Zamiast tego miał stworzyć własną warstwę niskiego poziomu, która mogłaby komunikować się bezpośrednio ze sprzętem. Innymi słowy: nie spodziewał się tego, co otrzymał. Apple pozwala na to oficjalne narzędzia, ale próbowaliśmy dowiedzieć się, co ten układ naprawdę potrafi pod powierzchnią. To fundamentalna różnica. Core ML to wygodny i bezpieczny sposób na uzyskanie machine learning do aplikacji dla iPhone, iPada lub Maca. Jednocześnie jednak utrzymuje deweloperów w wyznaczonych przez siebie granicach AppleInżynieria odwrotna ma na celu ominięcie tych barier i zbliżenie się do samego sprzętu.
Może cię zainteresować
Jeśli to stwierdzenie się potwierdzi, nie będzie to tylko techniczna ciekawostka dla garstki entuzjastów. To pokazuje, że urządzenia takie jak iPad Pro lub komputery Mac z chipem M4 mogą mieć znacznie większy potencjał w zakresie lokalnej sztucznej inteligencji, niż wydaje się to w codziennym użytkowaniu. Obecnie wiele osób kojarzy modele szkoleniowe sztucznej inteligencji głównie z drogimi kartami graficznymi, cloudserwery i sprzęt od Nvidia. Apple ale od lat sprzedaje w swoich obiektach specjalistyczne, bardzo wydajne akceleratory. ProProblemem nie jest koniecznie słaba wydajność. ProProblem polega na tym, że Apple nie daje deweloperom pełnej kontroli nad nim.
Należy jednak ograniczyć wygórowane oczekiwania. Fakt, że silnik neuronowy może być wykorzystywany do bardziej zaawansowanych obliczeń, nie oznacza, że iPad nagle zastąpi gigantyczne serwery AI. Lokalne trenowanie małych modeli, eksperymenty, dostrajanie czy specjalistyczne obliczenia różnią się od trenowania dużych modeli językowych z setkami miliardów parametrów. Prawdziwe znaczenie tej demonstracji leży gdzie indziej. Sugeruje ona, że Apple dysponuje sprzętem, który mógłby okazać się niezwykle wydajny dla lokalnej sztucznej inteligencji, gdyby zdecydował się udostępnić deweloperom więcej opcji.
Fotogaleria
Apple spowalnia oprogramowanie bardziej niż sprzęt
Cała sprawa ponownie otwiera stare pytanie o AppFirma często produkuje niezwykle wydajny sprzęt, ale jednocześnie ma bardzo ścisłą kontrolę nad tym, co programiści mogą z nim zrobić. Ma to swoje zalety pod względem stabilności, bezpieczeństwa i prywatności. Jednak w przypadku sztucznej inteligencji takie zamknięcie może być również przeszkodą. Wraz z coraz bardziej bezpośrednim wkraczaniem sztucznej inteligencji do urządzeń, układy takie jak M4, M5 i ich następcy będą zyskiwać na znaczeniu. A presja na… Appleaby pokazać, czy Neural Engine pozostanie w dużej mierze zamkniętą częścią własnego ekosystemu, czy też stanie się naprawdę otwartym narzędziem dla programistów.
Może cię zainteresować
Więc najważniejszym punktem całej tej sprawy nie jest to, że ktoś „zhakował iPada”. Bardziej interesujące jest odkrycie, że Apple M4 może mieć znacznie szersze możliwości lokalnej sztucznej inteligencji niż obecnie Apple oficjalnie oferuje. Jeśli podobne eksperymenty pokażą, że silnik neuronowy potrafi więcej niż tylko bezpiecznie uruchamiać gotowe modele, może to być kluczowa wiadomość dla przyszłości sztucznej inteligencji na iPhonie, iPadzie i komputerze Mac. Apple Być może już sprzedaje milionom ludzi sprzęt, który mógłby zdziałać o wiele więcej. Na razie trzyma go pod kluczem. Kod źródłowy projektu, nad którym deweloper pracuje nad uwolnieniem pełnego potencjału układu, jest dostępny. M4 znajdziesz na Github.
Po kliknięciu na kanał nie przenoszę się do niego. Jednocześnie nigdzie w artykule nie ma odniesienia do autora, artykułu ani niczego podobnego.
Przepraszam, nie mówię po słowacku, ale jeśli dobrze zrozumiałem, link do źródła znajduje się tutaj - https://github.com/maderix/ANE