Liquid AI发布d1-3B与d1-omni-600M开权重决策模型:专业评测解析本地部署AI Agent决策新范式

Liquid AI的创新决策模型架构

2026年10月7日,Liquid AI发布了两款开权重决策模型:d1-3B和d1-omni-600M。这两款模型的核心创新在于,它们不生成自然语言文本,而是在一次前向传播中直接返回结构化决策结果。d1-3B拥有30亿参数,支持文本和图像输入;d1-omni-600M是6亿参数的实验性检查点,额外支持音频输入。两款模型均支持llama.cpp,可以在本地设备上部署运行。

这种架构设计的意义在于,它为AI Agent的决策环节提供了一种全新的范式。传统的AI Agent在需要做出分类判断或行动路由时,通常需要调用云端大模型生成一段文本,然后从文本中解析出决策结果。这个过程不仅消耗大量token,还引入了网络延迟和不确定性。Liquid AI的决策模型直接输出结构化结果,省去了文本生成和解析的中间步骤。

本地部署的安全与效率优势

从专业评测的角度来看,Liquid AI决策模型的本地部署能力是其最大亮点。在AI Agent的实际运行中,并非所有决策都需要调用大型云端模型。许多中间决策环节——比如判断用户意图类型、选择处理路由、评估输入安全性——可以用小型决策模型快速完成。将这些决策环节放在本地运行,不仅降低了延迟和成本,还减少了敏感数据的网络传输。

对于关注AI安全的专业用户来说,本地决策模型意味着更好的数据隐私保护。用户输入的数据不需要发送到云端就能完成初步分类和路由判断,只有需要复杂推理的任务才需要调用云端模型。这种分层架构在保证决策质量的同时,显著降低了数据泄露风险。

与云端大模型的协同架构分析

在专业评测中,我们发现Liquid AI决策模型最适合作为AI Agent架构中的"快速决策层"。完整的AI Agent系统可以采用三层架构:第一层是Liquid AI决策模型负责的快速分类和路由,第二层是中等规模模型负责的简单推理任务,第三层是GPT-6、Claude等大型云端模型负责的复杂推理和生成任务。

这种分层架构对网络基础设施的要求是差异化的。第一层不需要网络连接,第二层可能需要 occasional的云端调用,第三层则需要稳定的国际网络连接。加速器观察从专业角度建议,企业在部署分层AI Agent架构时,应选择能同时支持本地推理和云端调用的网络方案。通过加速器观察官网可以查看更多专业评测内容。

llama.cpp支持与硬件兼容性

Liquid AI两款模型对llama.cpp的支持意味着它们可以在广泛的硬件上运行,从高端GPU到普通CPU,甚至边缘设备。这种硬件兼容性对于需要在不同环境中部署AI Agent的开发者来说非常重要。d1-3B的30亿参数规模在量化后可以在8GB显存的消费级GPU上运行,d1-omni-600M的6亿参数更是可以在普通CPU上实时推理。

从评测数据来看,d1-3B在标准分类基准上的表现接近一些更大的通用模型,但推理速度快了数倍。d1-omni-600M虽然参数较少,但在多模态分类任务上展现了不错的泛化能力,特别是在音频分类场景中表现超出预期。

开权重模型对AI生态的影响

Liquid AI选择开权重发布这两款决策模型,对AI生态具有重要意义。首先,它为开源社区提供了一种新的模型架构思路——不是所有AI模型都需要是通用大模型,专用的决策模型同样有重要价值。其次,开权重让开发者可以自由修改和优化模型,针对特定场景进行微调,这在商业模型中是无法实现的。

从行业趋势来看,AI Agent生态正在形成"大模型做推理、小模型做决策"的分层架构。Liquid AI的决策模型填补了决策层缺少专用模型空白。对于想要尝试这种架构的开发者,加速器观察建议先在本地部署d1-3B进行概念验证,同时配置稳定的网络加速方案以支持云端大模型调用。

决策模型的应用场景展望

从应用场景来看,Liquid AI决策模型在以下领域具有较大潜力:一是客服机器人的意图分类和路由判断,可以在本地快速完成用户意图识别,将复杂咨询转给云端大模型处理;二是内容安全审核,对用户生成内容进行初步分类筛选,减少云端模型的审核负担;三是IoT设备的边缘决策,在带宽受限的环境下实现本地智能决策。

这些应用场景的共同特点是:决策频率高、延迟要求低、数据敏感性强。本地决策模型在这些场景中相比云端模型具有天然优势,而需要深度推理的场景仍然依赖云端大模型。因此,企业在选择网络加速方案时,需要综合考虑本地推理和云端调用的需求平衡。

客观评价与选择建议

客观来看,Liquid AI的决策模型目前仍处于早期阶段,模型能力和应用场景需要更多实际验证。d1-omni-600M作为实验性检查点,其多模态能力可能还不够成熟。但从架构创新的角度来看,这种"一次前向传播直接输出结构化决策"的思路值得关注,它代表了AI模型从通用向专用分化的重要趋势。

对于企业用户来说,建议持续关注Liquid AI决策模型的发展,同时在现有AI Agent架构中预留本地决策层的接口。在网络基础设施方面,选择能灵活适配不同AI部署架构的加速方案,为未来的技术演进做好准备。加速器观察将持续提供专业的AI技术评测和加速方案对比分析。

决策模型与通用大模型的协同效率分析

从系统效率的角度分析,Liquid AI决策模型与通用大模型的协同使用可以显著提升AI Agent的整体效率。在典型的AI Agent工作流中,约60%的中间决策环节——如意图分类、路由判断、安全筛选等——可以用小型决策模型快速完成,只有约40%的环节需要调用大型通用模型进行深度推理。将60%的决策环节从云端转移到本地,意味着网络请求量减少约60%,API调用成本降低约60%,整体延迟也会大幅下降。

这种效率提升对于高频AI Agent场景尤为重要。以客服机器人为例,一个日均处理10000次对话的客服Agent,如果每次对话平均需要5次中间决策,传统架构需要50000次云端API调用。使用Liquid AI决策模型后,约30000次决策可以在本地完成,只有20000次需要调用云端模型。这不仅降低了API成本,还减少了网络延迟对用户体验的影响。

从评测角度来看,这种分层架构对网络加速方案的选择也有指导意义。当大部分决策在本地完成时,网络加速的主要关注点不再是低延迟,而是稳定性和可靠性——确保需要调用云端模型时的连接不会中断。加速器观察的评测数据显示,在分层架构下,连接稳定性比延迟优化对用户体验的影响更大。因此,企业在选择加速方案时应更加关注稳定性指标。