Затвори оглас

Мета је представила Muse Spark Open, најмоћнији модел отворене тежине из САД. То је модел са 816 милијарди параметара, са контекстним прозором који може да користи милион токена истовремено. Модел је првенствено направљен за програмере и оркестрацију вештачке интелигенције агената, који затим раде независно. Занимљиво је да је Мета комбиновала овај модел са Apple оптимизовано за MLX оквир и најновије рачунаре Mac Studio и чип M5 UltraАко имате пар Mac Studio Са 512 дељене меморије, тј. укупно 1 ТБ меморије, онда можете покренути модел локално, без потребе за повезивањем са Мета серверима. Apple током тестова, изјавио је да ако користи четири најновија Mac Studio рачунара са чипом M5 Ultra заједно, модел је прешао брзину од 36 токена у секунди.

Muse Spark Open је данас доступан путем API платформи као што су Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter и Together AI. Тежине модела могу се преузети са платформи. Amazon SageMaker AI, Google Cloud Модел баште, загрљено лице и Microsoft Модели за ливење. Модел ради на водећим инференцијским механизмима као што су SGLang, vLLM, TensorRT-LLM, Трансформери загрљаја лица, Apple MLX, llama.cpp и Unsloth, укључујући оптимизације за AMD хардвер, Apple, Интел и НВИДИА.

Screenshot

Данас најчитанији

.