צ'יפס Apple Silicon הם בין מעבדי המובייל החזקים ביותר בעולם. אך חלק מהיכולות שלהם נותרות מוסתרות מעיני המפתחים מאחורי ממשקים רשמיים. Appלו. אבל עכשיו מתברר שהמנוע העצבי בשבב Apple M4 יכול להיות הרבה יותר מעניין מאשר Apple בדרך כלל מאפשר ניצול. מפתח ומומחה אבטחה המכונה @0x0SojalSec טוען כי הצליח לעקוף את מגבלות התוכנה הנפוצות של השבב על ידי הנדסה הפוכה שלו. Apple M4 וגישה למנוע העצבי ברמה נמוכה בהרבה ממה שמאפשרים כלים סטנדרטיים Applu. התוצאה אמורה להיות האפשרות להשתמש במאיץ הבינה המלאכותית לא רק להרצת מודלים מוכנים, אלא גם לחישובים תובעניים יותר הקשורים לאימון שלהם.
המנוע העצבי הוא חזק, אבל Apple שומר עליו בשליטה
Apple כאשר הציגה את שבב ה-M4, אפל אמרה כי המנוע העצבי שלה יכול להתמודד עם עד 38 טריליון פעולות בשנייה. החברה כינתה אותו מאיץ הבינה המלאכותית המהיר ביותר שלה עד כה, תוך הדגשת השימוש בו למשימות בינה מלאכותית ישירות במכשיר. המנוע העצבי הוא אחת הסיבות לכך... Apple יכול לעבד חלק ממשימות הבינה המלאכותית באופן מקומי באייפד או במק ללא צורך לשלוח נתונים אל cloudאבל בפועל, למנוע העצבי יש תפקיד מוגדר בבירור. Apple הוא משתמש בו בעיקר לצורך הסקה, כלומר, להרצת מודלים שכבר אומנו, דרך ממשקים ציבוריים. אם אפליקציה צריכה לזהות אובייקט בתמונה, לתמלל דיבור, לערוך תמונה או להריץ מודל למידת מכונה, Neural Engine הוא המסייע האידיאלי. Pro אימון ישיר של מודלים, אולם Apple בדרך כלל לא מציע למפתחים גישה פשוטה ופתוחה.
לפי המידע הזמין, המפתח לא בחר בדרך הקלאסית דרך Core ML או Metal. במקום זאת, הוא היה אמור ליצור שכבה משלו ברמה נמוכה שתוכל לתקשר ישירות עם החומרה. במילים אחרות: הוא לא ציפה למה שיקבל. Apple מאפשר דרך כלים רשמיים, אבל ניסיתי לברר מה השבב באמת מסוגל לעשות מתחת לפני השטח. זה הבדל מהותי. Core ML היא דרך נוחה ובטוחה להגיע machine learning לתוך יישומים עבור iPhone, אייפד או מק. אבל באותו הזמן, זה שומר על מפתחים במסגרת המגבלות שהוא מציב Appleהנדסה הפוכה מנסה לעקוף את המחסומים הללו ולהתקרב לחומרה עצמה.
אתה יכול להתעניין
אם הטענה תאושר, לא מדובר רק בסקרנות טכנית עבור כמה חובבים. זה מראה שמכשירים כמו iPad Pro או מחשבי מק עם שבב M4 עשויים להיות בעלי פוטנציאל גדול בהרבה לבינה מלאכותית מקומית ממה שנראה בשימוש יומיומי. כיום, אנשים רבים מקשרים אימון מודלים של בינה מלאכותית בעיקר לכרטיסי מסך יקרים, cloudשרתים וחומרה מ אנבידיה. Apple אבל היא מוכרת מאיצים מיוחדים חזקים מאוד במתקניה כבר שנים. Proהבעיה אינה בהכרח שהביצועים לוקים בחסר. Proהבעיה היא ש Apple זה לא נותן למפתחים שליטה מלאה על זה.
עם זאת, יש צורך לרסן ציפיות מוגזמות. העובדה שניתן להשתמש במנוע העצבי לחישובים מתקדמים יותר אינה אומרת שהאייפד יחליף פתאום שרתי בינה מלאכותית ענקיים. אימון מקומי של מודלים קטנים, ניסויים, כוונון עדין או חישובים מיוחדים שונים מאימון מודלי שפה גדולים עם מאות מיליארדי פרמטרים. המשמעות האמיתית של הדגמה זו טמונה במקום אחר. היא מרמזת ש... Apple יש לה חומרה ביד שיכולה להיות חזקה ביותר עבור בינה מלאכותית מקומית אם היא תחליט לפתוח אפשרויות נוספות למפתחים.
גלריית תמונות
Apple מאט את התוכנה יותר מחומרה
כל המקרה מעלה מחדש את השאלה הישנה לגבי Applu. החברה מייצרת לעתים קרובות חומרה בעלת יכולות גבוהות במיוחד, אך יחד עם זאת יש לה בקרות הדוקות מאוד על מה שמפתחים יכולים לעשות איתה. לכך יש יתרונות מבחינת יציבות, אבטחה ופרטיות. אבל עם בינה מלאכותית, סגירה כזו יכולה גם להוות מכשול. ככל שהבינה המלאכותית עוברת ישירות יותר למכשירים, שבבים כמו ה-M4, ה-M5 או יורשיהם יהפכו לחשובים יותר. והלחץ ל... Appleכדי להראות האם Neural Engine יישאר חלק סגור ברובו מהמערכת האקולוגית שלו, או שמא הוא יהפוך לכלי פתוח יותר באמת עבור מפתחים.
אתה יכול להתעניין
אז הנקודה הגדולה ביותר בכל העניין היא לא שמישהו "פרץ את האייפד". מה שיותר מעניין הוא התגלית ש... Apple ל-M4 ייתכן יכולות רחבות משמעותית של בינה מלאכותית מקומית מאשר כיום Apple מציע רשמית. אם ניסויים דומים מראים שמנוע העצבי יכול לעשות יותר מאשר רק להריץ מודלים מוכנים בבטחה, אלו עשויות להיות חדשות מכריעות לעתיד הבינה המלאכותית באייפון, אייפד ומק. Apple ייתכן שהיא כבר מוכרת חומרה למיליוני אנשים שיכולים לעשות הרבה יותר. היא פשוט שומרת את זה תחת מנעול ובריח לעת עתה. קוד המקור של הפרויקט, שבו המפתח עובד על פתיחת מלוא הפוטנציאל של השבב. ניתן למצוא את M4 בגיטהאב.
כשאני לוחץ על הפיד, זה לא מוביל אותי אליו. יחד עם זאת, אין שום אזכור למפתח, למאמר או לכל דבר דומה בשום מקום במאמר.
סליחה, אני לא דובר סלובקית, אבל אם הבנתי נכון, הקישור למקור נמצא כאן - https://github.com/maderix/ANE