苹果新款Mac正式上市:本地AI部署成热点话题
苹果于9月22日在全国Apple Store发布了搭载M5 Max和M5 Ultra芯片的全新Mac Studio,这款被誉为“苹果最强Mac”的专业台式机自发布以来受到广泛关注,终于迎来了线下首发。同时,配置全新M6芯片的Mac mini也在同日上市。两款产品的共同亮点是本地AI处理能力,受全球内存芯片紧缺和AI本地化需求增加的影响,本地AI需求已成为推动苹果Mac业务发展的重要因素。
传统GPU在执行大型模型时,需要在CPU内存和GPU显存之间频繁移动数据。而苹果则将CPU、GPU及神经网络引擎整合为统一内存池。配备512GB统一内存的Mac Studio拥有高达1.2TB/s的带宽,能够在本地有效加载和微调大量数据,因此开发者和用户越来越倾向于在苹果设备上运行AI。
记者走访苹果门店时发现,配备最新M6芯片的Mac mini因其更具性价比而成为消费者咨询和购买的热门选择。许多顾客入店后首先询问是否能够本地运行大型模型。一位考虑购买Mac Studio的顾客表示,由于云端API费用持续上升,他希望通过本地部署来节省成本,选择搭载M5 Ultra的Mac Studio以便直接在本地运行大模型,而无需频繁调用云端资源。 龙8头号玩家
据了解,消费者在选择时主要纠结于高性价比的M6 Mac mini与高性能的Mac Studio之间,而两者的本质差异在于AI算力的代际与级别。M6作为苹果首款2纳米芯片,集成12核CPU、12核GPU和双16核神经网络引擎,支持最高32GB统一内存,带宽达到170GB/s。相比搭载M4芯片的Mac mini,M6的AI性能提升幅度可达4倍,而使用LM Studio处理大语言模型提示词的速度则分别比M4版提升4.8倍,甚至比M1版快13.5倍。
Mac Studio的性能更加强劲,配备M5 Max芯片的版本拥有18核CPU和最高40核GPU并支持128GB统一内存,专为复杂任务和AI负载加速设计;而M5 Ultra芯片版则搭载36核CPU和最高80核GPU,支持512GB统一内存,能够完整在设备端运行大规模语言模型。此外,通过雷雳5和RDMA技术,多台Mac Studio可以组成集群,共享更大的内存池以处理更复杂的开放权重模型,4台Mac Studio组成的集群在AI推理性能上可达单机的三倍。
简单来说,M6 Mac mini旨在满足轻量级AI任务需求,适合本地运行中小规模模型和日常AI应用;而Mac Studio则专注于处理更复杂的AI任务,如全规模语言模型的本地部署和细化。门店人员表示,Mac Studio库存非常稀缺,“目前仅有两三台M5 Ultra版现货”,而官网上该版本早已缺货,排队时间已延续至11月中下旬。与之相对,多个版本的Mac mini M6均有现货,咨询和成交量明显更高,内存为24GB、存储为512GB的版本尤其受欢迎,价格在8500元左右。 龙8头号玩家
本地AI的需求正推动Mac进入新阶段,Mac mini M6以其亲民的价格覆盖轻量级任务,而Mac Studio M5 Ultra凭借其超大内存和集群能力满足专业需求,两者相辅相成,减轻了云端使用的成本负担,加速了端侧AI的普及。
老将德罗赞能否在掘金替补席上继续发光?
通过固定练习投篮动作,提高出手的一致性和命中率。...
柳亚子询问毛主席打胜仗的秘诀,主席简洁回应
通过固定练习投篮动作,提高出手的一致性和命中率。...