Představení systému iOS 27 a radikálně vylepšené Siri na vývojářské konferenci WWDC klepe na dveře. Na veřejnost proto unikají první detailní informace o tom, jak bude nová vlna umělé inteligence od Applu fungovat na pozadí. Nová zpráva serveru The Information odhaluje technické detaily partnerství s Googlem a ukazuje, že Apple musel kvůli nedostatku vlastního výkonu udělat hned několik velkých ústupků.
Apple bude i nadále u svých funkcí Apple Intelligence tvrdě propagovat zpracování dat přímo v zařízení, což je klíčové pro ochranu soukromí. Problém je, že jeho vlastní AI modely na špičku nestačí. Inženýři proto vzali obří jazykový model Gemini od Googlu a s jeho pomocí trénují mnohem menší verzi, která dokáže běžet lokálně na procesorech iPhonů.
Tomuto procesu zmenšování se v technologickém světě říká destilace. Apple dokonce aktivně hledá ke koupi menší startupy, které mu s tímto smršťováním algoritmů pomohou. Jedním z vytipovaných cílů byla například bostonská společnost Liquid AI.
Vlastní servery selhaly, nastupuje Google a Nvidia
Složitější dotazy se však bez internetového cloudu neobejdou. Plnohodnotné Gemini s biliony parametrů vyžaduje tak gigantický výpočetní výkon, že s ním vlastní serverová infrastruktura Applu, dosud hrdě označovaná jako Private Cloud Compute, zkrátka nedokázala udržet krok.
Řešením je přechod ke konkurenci. Náročné dotazy pro Siri budou putovat do Google Cloudu, kde poběží na licencované verzi Gemini. Apple navíc teprve v posledních týdnech narychlo schválil nasazení bezpečnostní technologie od Nvidie. A právě její AI čipy v datových centrech Googlu nakonec zajistí potřebný výkon.
Nvidia disponuje funkcí takzvaného důvěrného šifrování dat (Confidential Compute), která sice zpracování dotazů v cloudu mírně zpomaluje, ale umožní Applu dodržet jeho přísné sliby o ochraně soukromí uživatelů. Značku Private Cloud Compute tak Apple u marketingu sice zachová, servery už ale čistě jablečné zdaleka nebudou. Já jsem na příchod jablečné AI velmi zvědavý, neboť Apple si už nemůže dovolit klopýtnout.
A dá se odhadnout, že budu v siri benefitovat z toho, že mám placené gemini? Nebo to nijak samotné siri nevylepší?
Inteligenci Siri to v zásadě nevylepší, ale záleží na tom jak na to koukáte. Nyní je možné v Apple Inteligenci napojit ChatGPT, takže se může vyzvat Siri, aby dotaz přeposlala do ChatGPT, pak myslím že má výhodu mít placené GPT a podobně by to mohlo v iOS 27 fungovat i u Gemini, pokud jí podobně Apple integruje.
Ale jestli to myslíte tak, zda najednou Siri bude umět číst v Gmailu nebo si vytáhne z Gemini informace s vašich chatů, tak to pravděpodobně ne.