Måske den mest interessante nyhed Apple annonceret sidste mandag ved åbningen Keynote WWDC, hedder dets helt nye AI-system Apple Intelligence, hvis funktioner burde være meget avancerede. Prisen for dette er dog, at Apple-fans skal bruge en 15"-model for at køre det på en iPhone. Pro (Max), eller nyere, så snart det er det Apple vil introducere. Og det er netop begrænsningen til kun de nyeste og dyreste iPhones i dag, der har rejst spørgsmål blandt Apple-fans om, hvorfor det egentlig er tilfældet, eller om der er evt. AppDet er ikke kun en salgsstrategi.
Fotogalerie
Dette er netop det emne, som dens førende repræsentanter nu har diskuteret i talkshowet Live From WWDC 2024, vært af reporter John Gruber fra Daring Fireball. FRA Applu deltog derefter i arrangementet med Head of AI/Machine Learning John Giannandrea, Head of Marketing Applu Greg Joswiak og Head of Software Engineering Craig Federighi. Og Johannes skånede slet ikke disse mænd, og lige fra begyndelsen stillede han dem spørgsmålet om, hvordan de havde det. Apple Intelligence na iPhonech is og hvorfor den ikke er tilgængelig på ældre modeller.
Til dette svarede Giannandrea: "Når du kører disse modeller under kørsel, kaldes det inferens, og at udlede store sprogmodeller er utroligt beregningsintensivt. Og det er altså en kombination af båndbredden i enheden, det er størrelsen Apple Neural Engine, det er enhedens kraft til faktisk at gøre disse modeller hurtige nok til at være nyttige. I teorien kunne du køre disse modeller på en meget gammel enhed, men det ville være så langsomt, at det ikke ville være nyttigt.John Gruber spurgte ham om den konto: "Så det er ikke en plan at sælge nye iPhones?”, hvilket Joswiak kraftigt afviste ved at sige: “Slet ikke. Hvis det var, ville vi Apple Intelligence eksklusivt til vores nyeste iPads og Macs også, ikke sandt?"
De to mænd fik derefter følgeskab Craig Federighi ret interessant "opgør" App"lu". Han sagde, at det første skridt AppNøglen til at implementere enhver ny funktion er at finde ud af, hvordan man får den på så mange ældre iPhones som muligt, og den californiske gigant forsøgte logisk nok at gøre det samme med Apple IntelligencePå grund af ydeevnekravene var der imidlertid simpelthen ingen anden mulighed end at begrænse nyhedsværdien til en serie Pro. "Kun iPhones 15" Pro de har den nødvendige hardware. Faktisk er det ret hidtil uset at køre så kraftfulde AI-modeller på en iPhone." sagde Craig.
Fotogalerie #2
På en måde er hans ord ikke overraskende. Når alt kommer til alt iPhone 15 Pro med A17 chip Pro Den har en 16-kernet Neural Engine, som er dobbelt så hurtig som den, der findes i A16-chippen fra iPhone 15 og 15 Plus. Et andet vigtigt aspekt er RAM-hukommelsen, som er Pro modeller med 2 GB mere end iPhone 15 (Plus). Forresten, miniMindst 8 GB RAM er tilsyneladende et grundlæggende krav for drift Apple Intelligencefordi alle kompatible Apple produkter med denne nyhed har netop denne store RAM-hukommelse.
Crap. Det kan kun de mest naive tro. Apple Det har altid været kendt for ikke at have brug for så meget RAM som en droid, fordi det har perfekt tunede applikationer. Dette ville være lidt selvmodsigende. Sandheden er på markedet. Der er ikke mange, der sælger, så de skal på en eller anden måde fremskynde tingene. Eller måske vil det fungere på en almindelig 16? Det er spørgsmålet. Det ville så betyde, at det nye iPhone det er værre end det gamle.
Apple Han havde ikke engang forventet at implementere AI i år. ProDet var ikke forberedt af HW. Det var Google og Samsung, der vækkede det sovende æble, tro mig. De var nødt til det. Galaxy Stirrer på S24 aPixel med åben mund og synker tør 😆.
Jeg ved, at mine chips allerede har AI-behandlingsprocesser, hvad taler du om. tror du, de ville forsømme i15 pro?
Når alt kommer til alt, introducerede Samsung kun funktioner på enheden til at skabe billeder, ændre tone i tekst og grammatik. Resten bliver alt sammen behandlet på Samsungs servere. Det har de også på hjemmesiden. Samsung erklærede det Galaxy AI vil være gratis på Samsung-enheder i 2025.
Og alligevel iPhone NPU'en har eksisteret i flere år, så ikke at have hardwaren klar er noget sludder. Nogle funktioner, der kaldes AI i dag, er inde iOS implementeret fra iOS 15 igennem CoreML. For at skabe billeder med stabil diffusion er der iOS/iPadOS/macOS gratis appDraw Ting og understøtter alt, som også A1111 og fungerer på Apple CoreML API.
Ja, det gjorde han, men han var dum.
Så det er fuldstændig udelukket, beklager. At skrive effektiv kode, komplicere effektiv kode, have god hukommelsesstyring, effektive biblioteker, delt hukommelse og jeg ved ikke, hvad der ellers er noget helt andet end en stor LLM - det handler simpelthen om data (antal parametre), dvs. hukommelse og computerkraft. ProTror du, der var sådan et boom?euronek (først i billedbehandling, nu også i form af store sprogmodeller)? Det er computerhardwaren, der gør det muligt.onegjort det muligt. Teorien er ret gammel.
Store LLM'er har hundredvis af milliarder til billioner af parametre, så høje GB'er til TB'er, og du "skider" bare ikke med nogen "apple det kræver ikke så meget hukommelse" :-) Hele den store model behøver selvfølgelig ikke være direkte i enheden, men jeg er faktisk overrasket over, at de ville køre en rimelig stor model på 8GB, hvis det er Tilfældet er dette alene noget af et mesterværk...
Jeg tager ikke din mening. Men Apple holder støtte i 5 år. Kan du forestille dig, at mere end halvdelen af de nye ting fra den opdaterede iOS det virkede ikke for et år siden iPhoneDet, der ville ske, var, at ingen ville købe dem. ProSådan gør man det for at få det til at fungere. Jeg tror ikke, at "apple "intelligens" var så ekstra, at flere enheder ikke kunne klare det.
Hvad er det for noget sludder? M3 Pro den har også kun 18 TOPS (næsten ligesom A16 – 17 TOPS) og den nye A17 Pro har dobbelt så mange som de 35 TOPS.
Så med denne logik, og hvis dette er sandt, så ville AI fra Apple gik ikke på den nye MacBooku Pro s M3 PRO chip!? Hvilket ikke virker sandsynligt for mig, medmindre han laver 2 versioner af AI, den ene til desktop, den anden til mobil, hvilket nok er noget vrøvl. Så jeg tror vi Apple han trækker bare i næsen igen.
ps: Det er ret irriterende, hvis du købte en MBP i år (som mig, i begyndelsen af året) med M3 PRO for omkring 75K, og du vil finde ud af dette….
Alle disse TOPS er markedsføring.
Apple A17 Pro har 35 TOPS på INT8.
Apple A16 Bionic har 17 TOPS på FP16/BP16.
Apple M3 Pro har 18 TOPS på FP16/BP16.
Snapdragon Elite X har 45 TOPS, men på INT4, hvilket igen er en forskel fra INT8 og en kæmpe forskel fra FP16.
A17 Pro er inde CoreML 9,1 % kraftigere end A16 Bionic. Det siger det hele.