
自生成式人工智能于 2022 年末成为主流话题以来,围绕其商业用例、应用落地和投资回报率的问题不断涌现。随着 AI 智能体逐步迈向广泛部署,企业回答这些问题的压力也进一步加大。
与通常依赖问答模式的生成式 AI 聊天机器人不同,AI 智能体可以跨不同应用执行复杂的多步骤任务。在完成相应配置后,它们还可以自主采取某些行动,并在发起任务的人员将注意力转向其他事项时,持续较长时间处理复杂项目。
对于希望从 AI 中创造更多价值的企业而言,利用智能体分析信息并据此采取行动的能力极具吸引力。与此同时,云端 AI 与本地 AI 的快速发展,也让 IT 部门面临一系列现实问题:智能体应在哪里运行、可以访问哪些企业数据,以及如何低成本地向员工提供这些能力。
目前,AMD 合作伙伴已推出搭载 AMD 锐龙 AI Max 和 锐龙 AI Max PRO 400 系列处理器的新系统,为企业在本地开发和部署企业级 AI 提供了新的选择。凭借最高 16 个“Zen 5”CPU 核心、55 TOPS NPU¹、40 个 GPU 计算单元以及超大容量统一 DRAM 内存池,这些新系统专为本地智能体 AI 而打造。

新一代 锐龙 AI Max 和 Max PRO 系列处理器延续了 AMD 在 锐龙 AI Max 和 Max PRO 300 系列中首次推出的统一内存架构,同时大幅提升了内存容量。上一代系统的总内存最高为 128GB,其中最多可为 GPU 工作负载预留 96GB;锐龙 AI Max 400 系列则可提供最高 192GB 内存,其中最多 160GB 可分配给 GPU,提升至原来的 1.67 倍。锐龙 AI Max PRO 400 系列是全球首款能够在无需将工作负载上载至云端的情况下,以 4 位量化运行参数量超过 3000 亿模型的 x86 客户端处理器²。
智能体工作负载可能对内存提出很高要求,因为同一工作流中可能会同时包含多个模型、大型上下文窗口、企业数据,以及多个应用或工具。锐龙 AI Max 400 系列系统更大的内存容量,为企业在本地开发和运行这些工作负载提供了更充足的空间。
在本地运行企业级 AI 智能体需要什么?
企业级智能体所需的不只是基础模型。开发团队可能需要将模型连接至内部文档和代码库,构建检索增强生成应用,评估不同模型,创建工具与连接器,测试智能体行为,并确定哪些工作负载应保留在本地、哪些应使用云服务。
锐龙 AI Max PRO 400 系列处理器为这一开发周期提供了本地平台。其高性能 CPU 核心、集成显卡、强大 NPU 与大容量统一内存池相结合,可在同一系统上支持模型开发、编排、原型设计和执行。该平台原生支持 Windows 和 Linux 环境,更广泛的 锐龙 AI 软件生态系统则涵盖 PyTorch、vLLM、llama.cpp、Ollama、ComfyUI 和 LM Studio 等普遍使用的工具及框架。
AI 智能体何时应在本地运行,何时应在云端运行?
AI 工作负载应在本地还是在云端运行,有时会被视为非此即彼的问题。但锐龙 AI Max PRO 400 系列处理器体现了另一种理念:让云端与本地 AI 资源在同一部署战略中共存。
当工作负载需要本地模型无法提供的能力时,前沿云端模型仍然具有重要价值。然而,在其他情况下,本地系统可以承担部分乃至全部工作负载。
例如,HP 将全新的 AMD 锐龙 AI Max+ PRO 495 处理器与 Perplexity Portable Computer 搭载于 HP ZBook Ultra G3a 16 中。该系统可以在运行专业应用的同时运行本地模型和智能体;如果特定步骤需要前沿智能能力,用户也可以调用云端模型。
本地执行还可以让组织更好地控制专有数据的处理位置。面向内部文档、工程文件、源代码或其他敏感信息开展工作的智能体,可以在本地系统上执行适合的操作,而无需将每一次请求和工作文档都发送至外部推理服务。
从经济角度来看,采用混合式分工同样值得考虑。
智能体 AI 可能消耗极其庞大的 token 数量,远高于聊天机器人。这是因为智能体在完成单个任务的过程中,可能需要反复进行推理、修正、信息检索和模型调用。采用云端推理时,每一项操作都会转化为持续发生的费用。

参见 SHO-49
AMD Tokenomics Calculator 可帮助组织根据预期用户数量、token 消耗量、硬件需求和云端模型定价,评估纯云端、纯本地及混合式 AI 部署的潜在成本。如上图所示,在较短的一段时间(6个月)后,使用云服务的成本就可能会显著地超过了本地 AI。(访问 AMD Tokenomics Calculator)
混合式部署可以让企业将云端推理保留给那些其能力足以证明相关费用合理的工作负载,同时在本地运行其他任务。借助 AMD Tokenomics Calculator,IT 团队可以评估不同比例组合所带来的影响,而不必将本地 AI 与云端 AI 视为相互排斥的选择。
企业级智能体正从实验阶段迈向生产环境。随着 锐龙 AI Max 400 系列和 锐龙 AI Max PRO 400 系列系统陆续交付客户,AMD 正以显著增强的本地计算能力和内存容量推动这一转变,为企业提供更多构建 AI 的平台、更多部署 AI 的位置,以及对工作执行地点更强的掌控力。

