Zatím co před pár lety využívaly firmy volné kapacity na svých počítačích k těžbě bitcoinů, nyní je nechávají přes noc pracovat s AI. Je to chytré řešení, které dokáže využít počítač v podstatě nontop. Nyní si však musí své řešení, jak vytěžovat počítače najít každá společnost sama a tak zatím co někde ručně zapínají zaměstnanci při odchodu AI agenty, v jiné společnosti se například aktivují na všech počítačích najednou v daný čas. Apple však nyní testuje vlastní systém, který dokáže využít zbývající systémové prostředky pro běh cloudové AI. Nevyužívá přitom výkon počítače pouze v momentě, kdy u něj nejste, ale naopak dokáže využít i výkon, který nepotřebujete aktuálně pro svou práci. Konkrétně Apple pracuje na platformě Minions. Ta má jednoduchý úkol. Propojit výkon GPU v počítačích Mac tak, aby umožnila rozběhnout i náročnější firemní AI úlohy.
To znamená, že by společnost, která má například 20 Mac mini nemusela pro běh nárnějších úloh pořizovat další nákladný hardware, ale mohla by propojit výkon všech těchto počítačů v jeden výkonný celek. Nejedná se přitom o žádnou spekulaci, informace o tomto projektu zveřejnil Apple oficiálně na svých webových stránkách. Na těch se mimo jiné dozvíte i to, jak Minions funguje. O všechna zařízení se stará Minion Server, který rozdělí zadanou úlohu na menší části podle databáze počítačů, které spravuje. Pro každý počítač zapojený do sítě Minions tak nachystá dílčí úkol, který počítač zvládne svým výkonem zpracovat a odešle mu jej pomocí API. Jakmile počítač úkol zpracuje, tak si jej opět přes REST API vyzvedne a následně všechny jednotlivé úkoly od všech počítačů zkompletuje v požadovaný celek.
Mohlo by vás zajímat
Minion Server dokáže využívat počítače jak v momentě, kdy jsou v nečinnosti, tak i v momentě, kdy na nich zaměstnanci pracují a chytře dedikuje jen takový výkon, který nebude omezovat zaměstnance při práci. Pokud se navíc nějaký počítač ze sítě odpojí, dostane jeho úkol jiný počítač v síti. V současné době podporuje tento systém provozování lokálních jazykových modelů pomocí Ollama anebo embedding modelů z Hugging Face. Apple tento systém aktuálně používá v některých svých týmech a cílem je nabídnout jej do budoucna běžným společnostem nebo vytvořit komunity, do kterých se budou mít možnost zapojit i běžní uživatelé domácích počítačů Mac.
Mohlo by vás zajímat