提到人工智能数据中心,大多数人都会想到装满价值数百万美元的英伟达显卡的巨型服务器。但一家中国初创公司展示了一种截然不同的方法。它没有使用专用人工智能服务器,而是构建了一个由大约1000台计算机组成的基础设施。 Mac mini 带芯片 Apple M4目标很简单——以更低的成本、更高的效率运行人工智能,并且无需任何额外投入。one费用 cloud电子邮件服务。
Apple Mac mini M4 的设计初衷并非数据中心服务器,但凭借其低廉的价格、高性能和极低的功耗,正逐渐受到人工智能开发人员的青睐。基本 Mac 配置 mini M4 的售价为 599 美元,在典型的 AI 工作负载下功耗约为 10 至 30 瓦。这远低于配备强大 GPU 的专用服务器,后者通常每张显卡的功耗高达数百瓦。这家中国初创公司利用 M4 构建了一个由约一千台 Mac 组成的“服务器集群”。 mini它们共同满足运行大型语言模型的要求。
您可能感兴趣
关键不在于训练人工智能,而在于运行它。
值得注意的是,这种基础设施并非用于训练规模最大的AI模型。该领域仍然由NVIDIA图形加速器主导,例如H100或更新的Blackwell系列。 Mac mini 但它的用途有所不同。它非常适合所谓的AI推理,即使用已训练好的模型来回答用户查询或执行特定任务。在这种情况下,高能效远比绝对性能重要。芯片的最大优势之一就是 Apple M4 是一种统一内存架构。CPU 和 GPU 共享同一块运行内存,因此无需在系统的各个部分之间不断复制数据。这在处理大型语言模型时效率更高,并降低了整个系统的能耗。这正是…… Mac mini 已在利用本地人工智能操作工具的开发人员中广受欢迎。
公司建设此类项目的主要原因之一是成本不断上升。 cloud电子服务。每次向远程人工智能模型发送查询都意味着需要支付额外费用。用户使用服务越多,每月费用就越高。但是,如果公司拥有自己的硬件,情况就有所不同。支付购置成本后,公司主要支付的是电力和日常基础设施维护费用。因此,每次人工智能查询的成本可以显著降低。
查看 Instagram 上的帖子
现代开源工具也推动了类似解决方案的扩展。其中最著名的工具之一是 Ollama,它允许直接在本地计算机上运行大型语言模型。多台 Mac 可以连接成一个单元,并通过本地网络共同处理请求。这样,开发者就能拥有自己的 AI 基础设施,而无需依赖远程服务。 cloud服务。在2025年和2026年,企业停止长期向大型企业租用计算能力的趋势将越来越普遍。 cloud公司开始投资建设自己的硬件。原因很简单。一旦基础设施建设成本得到支付,后续的费用就无需再考虑其他方面了。 cloud 每月都在增长。 Pro 对于人工智能查询量大的公司来说,这可以节省一大笔费用。 Mac mini 此外,由于其体积小巧,它的扩展性非常好。在通常需要放置几台大型服务器的空间里,可以放置数十台小型计算机,而这些计算机的功耗仍然相对较低。
虽然 Apple 从未有人将计算机视为数据中心的解决方案,是本地人工智能的出现为计算机的应用开辟了新的可能性。 Mac mini 对于那些需要高效、低成本且不依赖第三方服务运行自有AI模型的公司而言,这正逐渐成为一个有趣的替代方案。 cloud服务。在可预见的未来,Mac 不太可能被配备 NVIDIA 图形加速器的顶级服务器所取代。但这表明,对于许多任务而言,并非总是需要极其昂贵的硬件。有时,用大量小型、节能的计算机构建基础设施可能更划算。而一家中国初创公司正是证明了这一点。它没有使用几台庞大的 AI 服务器,而是创建了一个由上千台 Mac 组成的数据中心。 mini如果类似的方法在其他公司也取得成功,那么这可能是人工智能在未来几年发展的最有趣的方向之一。