IBM 推出Granite 3.2芯片解密
- 芯片解密Granite 3.2是小型的 AI 模型,通过对开发人员友好的授权条款,提供推理、视觉和护栏功能
- 更新后的 Granite 时间序列模型可提供长期预测,参数少于10M;适用于金融与经济趋势分析、供应链需求预测,以及零售业的季节性库存规划等用例
芯片解密北京, 2025年3月4日 /美通社/ -- IBM于2月底推出其 Granite 大型语言模型家族的最新一代产品 Granite 3.2,持续推动小型、高效、企业专用的 AI,为实际应用创造效益。
IBM 推出 Granite 3.2 大语言模型,体现 IBM 发展企业专用、小型、高效与实用 AI 的策略。
所有 Granite 3.2 模型均采用宽松的 Apache 2.0 开源授权条款,可在 Hugging Face 下载。部分模型现已在 IBM watsonx.ai、Ollama、Replicate 和 LM Studio 上提供,预计不久将支援 RHEL AI 1.5,为企业与开源社区注入更强大的 AI 能力。
主要亮点
- 全新视觉语言模型:专为理解文件任务而设计,在关键企业基准测试 DocVQA、ChartQA、AI2D 和 OCRBench[1] 中,表现可媲美甚至超越更大规模的模型(如 Llama 3.2 11B 和 Pixtral 12B)。除了强大的训练数据外,IBM 也利用其开源 Docling 工具包处理8千5百万份 PDF 文件,并生成2千6百万个合成问答配对,提升视觉语言模型在处理大量文件工作流时的能力。
- 增强推理功能:Granite 3.2的2B与8B模型加入了「思维链」(Chain of Thought,CoT)推理机制,且使用者可以开启或关闭推理功能以优化效率。通过这项能力,8B 模型在 ArenaHard 和 Alpaca Eval 等指令遵循基准测试中的表现[2],比前一代优异比例达到两位数,且不影响其他领域的安全性或性能。此外,通过创新的推理扩展方法,Granite 3.2 8B 模型可以调整至接近 Claude 3.5 Sonnet 或 GPT-4o 在数学推理基准(如 AIME2024 和 MATH500[3])上的表现。
- Granite Guardian 安全模型更轻巧:在保持 Granite 3.1 Guardian 模型性能的同时,模型尺寸减少三成。此外,Granite 3.2 系列还引入了语言化信心评估(Verbalized Confidence)新功能,可提供更精细的风险评估,帮助安全监测系统识别不确定性。
芯片解密IBM 持续推动企业专用的小型 AI 模型策略,并已在测试中展现高效能。例如,Granite 3.1 8B 模型在 Salesforce 大型语言模型CRM基准测试中获得高分,显示其在实际应用中的准确度和可靠性。
IBM Granite 模型家族拥有广大的合作伙伴生态体系,许多领先的软件公司已将Granite模型嵌入其技术。Granite 3.2 是 IBM 在推动企业专用小型 AI 方面的重要进展,体现了 IBM 致力于提供小型、高效、实用 AI 的产品策略。