AI开源模型性价比高但应用受限的原因
摘要
MIT研究显示,闭源AI模型占据80%的市场份额,成本是开源模型的六倍。开源模型发布时性能已达闭源的90%,且能在13周内追平。若合理切换至开源模型,全球AI经济每年可节省250亿美元,但企业因切换成本和安全顾虑而犹豫。
内容框架与概述
文章首先对比了闭源与开源AI模型的市场现状。闭源模型如OpenAI、Anthropic和Google的产品占据OpenRouter平台近80%的使用量,但平均成本为每百万tokens 1.86美元,而开源模型仅需23美分。这种价差导致全球AI经济每年浪费250亿美元的潜在节省空间。
接着分析了开源模型的技术优势。研究发现开源模型发布时平均性能达到闭源模型的89.6%,而追赶周期已从一年前的27周缩短至13周。研究人员计算得出,通过将需求从闭源模型重新分配至更优的开源替代品,用户可降低70%以上的成本,同时提升14%以上的基准性能。
最后探讨了企业不愿切换的根本原因。合理的顾虑包括切换到新模型的生态系统改造成本,以及可靠性、监管和安全方面的特殊需求。另一方面,企业也存在认知误区,误认为开源模型性能不足或使用开源模型会导致数据公开,但实际上开源模型可在本地基础设施中运行,数据无需离开服务器。
核心概念及解读
闭源模型:专有的AI系统,用户需支付模型和底层计算资源费用,市场集中导致高溢价。
开源模型:公开模型权重、代码或架构的AI系统,用户可本地部署,仅需承担计算成本,类似Linux的商业模式。
Token:AI模型的输入输出单位,约相当于聊天机器人提示词中的一个单词,是计价的基本单位。
性能追赶周期:开源模型从发布到达到闭源模型同等性能所需时间,已从27周缩短至13周。
最优替代策略:根据性能基准选择更优的开源模型替代现有闭源模型,可降低70%成本并提升14%性能。
原文信息
| 字段 | 内容 |
|---|---|
| 原文 | AI open models have benefits. So why aren’t they more widely used? |
| 作者 | Brian Eastwood |
| 发表日期 | Tue |
此摘要卡片由 AI 自动生成