降价潮背后:中国产业大模型落地的卡点到底在哪?

2024-05-30 00:28

本文主要是介绍降价潮背后:中国产业大模型落地的卡点到底在哪?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

“技术是不会以任何商业行为或者人们的意愿所改变它的上限和下限的,它需要的时间是恒定的。 ” 

作者|思杭 

编辑|皮爷 

出品|产业家 

如果说中国大模型市场最核心的话题是什么?降价则必然是其中之一。

从目前的参赛玩家来看,不论是字节豆包,还是阿里、百度、腾讯、科大讯飞,国内的一众to b大模型厂商都被卷入这股降价潮中,它们或是全量降价,或是小参数模型降价。

“很多云厂其实本来没想降,但大家都降了,也没办法,只能跟。”一位相关人士告诉产业家。

具体来看,目前业内降价的主要版本更多的是基于公有云版本的接口成本降低,以及轻量化模型的调用成本调优。而从目前大模型的调用来看,这些也是当下开发者小范围使用最优先使用的版本。根据不完全统计,如今有超过40%的企业都在尝试使用大模型相关产品,或是基于办公,或是基于生产等等。

但这种意愿的蓬勃生长和这次降价潮并不成正相关。“其实降价对我们影响不大,本来我们的调用成本就很低,现在重点是能不能内部使用起来。”一位金融企业的CIO告诉我们。

这是很多人向产业家传递的信号。因此,在这背后,对应的一个核心问题是:降价,是不是会推动和加速大模型在产业和行业侧的落地?或者说,降价是不是大模型从技术向工程迈步的核心因素?

如果说一年前,市场对于这个问题的回答是肯定的,那么如今,这个问题则更多见仁见智。在产业家和不同企业的沟通交流中,得出的一致结论是,如今企业更多的卡点并非在大模型本身,而在于企业自己。

这些工程侧的卡点涵盖向量数据库、数据清理/标注、知识库的梳理建立以及内部业务逻辑和流程的清理,“我们现在想在copilot基础上加一层,到Agent的阶段,但整体的业务流程梳理需要时间。”上述人士告诉我们。

在降价潮把大模型拉回C位的如今,我们更应该审视的是在大模型进入中国一年后的当下,在技术、参数不再是唯一标准的如今,中国产业大模型的卡点如今到底在哪?

一、大模型时代,

低价究竟意味着什么?

“我们不希望发布半成品。之所以今天发布,是因为现在我们的模型能力已经准备好了。”火山引擎总裁谭待表示。上周三,火山引擎正式发布字节旗下的豆包大模型。

而与此同时,更为重磅的消息是,豆包大模型宣布降价,每千tokens价格0.0008,直接给出了“全网最低价”。

这也意味着,大模型价格战就此打响。先是阿里宣布其主力模型全面降价,在豆包大模型的基础上,再降三个点,每千tokens价格0.0005;当天下午百度宣布“免费,立即生效”,紧接着,阿里云再加码,宣布通义旗下的12款模型已开源,全部免费下载。等到了周三,参与者又多了科大讯飞和腾讯。

对此,海外媒体给出的评价是,国内互联网厂商的价格战,向来都遵循一个公式:“一旦降价,就直接击穿底价,‘不留活口’。”在过往的SaaS和云计算阶段,也恰都是这种节奏。

原因为何?或者说,大模型成熟到可以以如此低的成本进行大规模商业化了吗?

在谈及大模型价格之前,先来看云计算的价格战,在过去的几年时间里,包括阿里云、腾讯云、华为云等在云侧的价格也更都处于不断调低的模式,但就云计算技术本身而言,伴随着流批一体、分布式存储等技术的优化,服务器CPU的成本在加速降低。客观来看,这种降价逻辑完全合理。

但这里面忽略了一个问题,即时间纬度。从时间来看,国内云计算的发展早在2006年,甚至更早就已经开始了,等到了2014年左右才进入到快速发展期。而直到2016年,国内各大云厂商才开始灵活调整价格,真正的价格战,或者说竞相放低价格则要更晚。

从这个纬度来看,大模型在国内却仅发展了不到两年的时间,中间不论是如今整体算力上的短缺,还是对于GPU纳管的存储计算能力,以及其算法框架的优化, 尽管其是基于云计算的底层架构进行成本侧的优化,但目前都尚未成熟。

据了解,以目前国内的主流芯片而言,如果是软硬一体的交付,其算力利用率能到80%,但如果分别进行软件和硬件的交付,整体由于异构以及不兼容的问题,其利用率甚至可以低到60%以及更低。此外,就国内的主流芯片而言,其相较于英伟达的H100等性能,同等价格下其性能更是只有其60%左右。

这些都代表着对大模型而言,真正良性的价格下浮并没有实现。那么,从这个节点来看,大模型厂商厂商降价的本质是什么?

在前段时间,王小川曾聊到这样一句话,“百川智能不参与价格战,因为我们主要面向的是c端业务,降价的主要是B端的需求。”

诚然如此,从本质来看,在大模型降价背后,对一众云厂商而言,其可以通过更低的价格更快、更好地构建自身的AI开发生态,通过让自身的大模型产品被更多B端企业使用,进而建立数据飞轮和强化用户粘性。

从当下来看,一旦企业选择使用一家大模型,一般要经历搭建知识库、数据库、数据清理/标注,以及训练、微调等环节,这也意味着其替换成本极其高,对模型厂商而言则对应的是极高的用户粘性以及提前卡位。

实际上,从各家面向生态的动作能窥得一二。比如百度面向开发者推出的一众包括飞桨在内的开发社区,再比如阿里自身的魔搭社区,以及腾讯、华为面向开发者的一众工具,在降价的动作背后,也更是对自身AI生态的底层加速。

二、低价,

真的会「催熟」大模型落地?

而在生态和客户粘性之外,更应该思考的一个问题是:低价真的会催熟中国产业大模型的落地吗?

客观来看,如果说大模型是一个简单的C端应用,或者对于企业来讲是一个“拿来即用”的程序,那么降价或免费策略一定会更大程度地催熟市场。但如果站在企业搭建大模型的角度,这个问题则要更复杂得多。

总体来说,企业自身搭建一个大模型,不仅仅需要从大模型企业那里获取相关服务,对于企业自身也有更高要求,比如企业内部的数据训练、知识库搭建等等。

以一个在金融企业内部的大模型实际案例为例,即银行需要构建大模型,其第一步是数据收集。首先,各部门需要把风险评估、客户信用评分、欺诈检测等数据汇总起来,同时在此基础上,收集各部门对大模型业务的需求。

其次,将这些结构化和非结构化的数据进行具体整理,并确定数据来源。这里包括数据清洗、转换数据格式等等。

而这些工作都是企业在业务部门内需要完成的。

在完成了整个数据层面的处理,还需要进行模型层面的训练。这里则需要用到大模型厂商提供的服务,比如基于大模型厂商提供的SFT组件,以及对应的prompt模块进行模型训练调整。

另外,为了行业模型能够更精准地匹配业务,大模型厂商还需要配合企业完成知识库的搭建。

可以看到,大模型落地更等同于一个系统工程。即使大模型企业通过低价或免费策略吸引了大量客户,企业客户在实际应用中仍需要投入大量的资源和时间来整合和优化这些服务。目前从国内的实践落地来看,尽管已经有一些央国企在带头完成各自行业里的垂直模型搭建,但其中在数据收集以及训练层面也仍是困难重重。

此外,问题也更在模型侧。“包括我们不知道在不同的场景我们到底该用多大的模型进行训练,这点我们技术团队只能根据厂商给出来的几个模型一个个试,但究竟是多大的能够做什么事情,这个事情没有明确的说明。”一位相关技术负责人告诉产业家。

从某种程度来说,降价解决的仅仅是大模型工程最前端的入口问题,但对于整个过程中的全部链路节点的打通,这中间的各种问题仍然足够繁琐,关卡难度也更足够大。

三、大模型,

「行业壁垒」之战

“用亏损换收入是不可持续的,所以我们从来不走这条路子。”火山引擎谭待这样告诉媒体。

站在商业化的角度去思考,既然目前大模型厂商离盈利还较远,那么如今字节、阿里、百度、科大讯飞和腾讯都纷纷宣布降价,甚至免费,在这波操作背后,这些大模型厂商有没有更深层的意图?

首先,一个在过去互联网时代和云计算时代的逻辑是,大厂推出的系统和应用要想在行业里站稳脚跟,就必须要有一定的行业know-how积累和服务经验的沉淀。

同样地,这套思路也适用于大模型时代。只是与之不同的是,大模型时代是站在互联网时代和云计算时代之上的,一方面,过去的问题不会重复出现,比如数据孤岛和系统之间打通的问题,在大模型时代基于scaling law的模式,则会有更好的解决方式;

另一方面,过去的互联网厂商和如今的大模型厂商是同一批参与者,这也意味着,一些包括数据库、中间件以及数据层面的行业积累可以复用。

实际上,这也是为什么去年华为盘古大模型一经发布,就打着“不作诗,只做事”的口号,直接选择行业大模型的原因。此外,包括百度、阿里、腾讯、火山引擎等更是在行业大模型侧不断加码,比如在5月28日的智能经济论坛峰会上,百度副总裁沈抖就表示,百度的行业大模型方案是在通用大模型的基础上,催生出N个行业小模型,基于“大模型+小模型”的方案帮助企业落地。

相较之下,腾讯的混元大模型的行业积累则聚焦在社交、办公和汽车领域。在不久前刚结束的北京车展前后,腾讯也发布了汽车行业大模型,这也是基于腾讯的混元大模型之上的,比如在汽车研发、生产、营销、服务和企业协同办公等场景,汽车大模型都可以发挥作用。

然而,上述提到的行业案例也只是目前大模型生态里的冰山一角。

可以感知到的是,目前各家大模型厂商的一致路径都是,通过与行业企业的合作,基于更精准的数据进而构建出各自的大模型行业壁垒。

写在最后:

实际上,从降价到大模型大规模实际落地,中间还有很长的一段路要走。这条路是大模型厂商如何做好模型搭建相关的云服务,企业如何梳理数据、训练数据、如何基于业务逻辑搭建模型,以及工具和接口是否一致等等问题。

但降价潮本身也并非毫无意义。

从目前的落地情况来看,大模型在B端的落地还远未到成熟的地步。在大模型厂商之外,SaaS企业也更在进行软件层面的AI重构,能看到的是,包括用友、金蝶、微盟、销售易等企业,它们有的选择与大模型企业合作搭建自己的大模型;有些则选择以API的方式接入大厂的大模型底座,在上面建自己的AI Agent;再或者,有些则是更进一步,构建“AI+SaaS”原生应用。

这些新的基于软件层面的尝试,都将建立在算力足够普惠的基础上。“未来整个行业的推理成本每年降低10倍是可以期待的,而且这个趋势是必然的。对于行业来说,现在模型的API调用还是非常非常低的比例,如果推理成本一年降低10倍那就有更多的人可以用上大模型,这是非常利好的消息。”李开复表示。

算力普惠,是大模型落地的充分条件,但从如今的进度条来看,它尽管需要被正视价值,但远远不能成为改变整个大模型落地的最强催化剂。

“技术是不会以任何商业行为或者人们的意愿所改变它的上限和下限的,它需要的时间是恒定的。”上述金融企业的CIO说道。

这篇关于降价潮背后:中国产业大模型落地的卡点到底在哪?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1015064

相关文章

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

跨国公司撤出在华研发中心的启示:中国IT产业的挑战与机遇

近日,IBM中国宣布撤出在华的两大研发中心,这一决定在IT行业引发了广泛的讨论和关注。跨国公司在华研发中心的撤出,不仅对众多IT从业者的职业发展带来了直接的冲击,也引发了人们对全球化背景下中国IT产业竞争力和未来发展方向的深思。面对这一突如其来的变化,我们应如何看待跨国公司的决策?中国IT人才又该如何应对?中国IT产业将何去何从?本文将围绕这些问题展开探讨。 跨国公司撤出的背景与

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

透彻!驯服大型语言模型(LLMs)的五种方法,及具体方法选择思路

引言 随着时间的发展,大型语言模型不再停留在演示阶段而是逐步面向生产系统的应用,随着人们期望的不断增加,目标也发生了巨大的变化。在短短的几个月的时间里,人们对大模型的认识已经从对其zero-shot能力感到惊讶,转变为考虑改进模型质量、提高模型可用性。 「大语言模型(LLMs)其实就是利用高容量的模型架构(例如Transformer)对海量的、多种多样的数据分布进行建模得到,它包含了大量的先验

图神经网络模型介绍(1)

我们将图神经网络分为基于谱域的模型和基于空域的模型,并按照发展顺序详解每个类别中的重要模型。 1.1基于谱域的图神经网络         谱域上的图卷积在图学习迈向深度学习的发展历程中起到了关键的作用。本节主要介绍三个具有代表性的谱域图神经网络:谱图卷积网络、切比雪夫网络和图卷积网络。 (1)谱图卷积网络 卷积定理:函数卷积的傅里叶变换是函数傅里叶变换的乘积,即F{f*g}

秋招最新大模型算法面试,熬夜都要肝完它

💥大家在面试大模型LLM这个板块的时候,不知道面试完会不会复盘、总结,做笔记的习惯,这份大模型算法岗面试八股笔记也帮助不少人拿到过offer ✨对于面试大模型算法工程师会有一定的帮助,都附有完整答案,熬夜也要看完,祝大家一臂之力 这份《大模型算法工程师面试题》已经上传CSDN,还有完整版的大模型 AI 学习资料,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

【生成模型系列(初级)】嵌入(Embedding)方程——自然语言处理的数学灵魂【通俗理解】

【通俗理解】嵌入(Embedding)方程——自然语言处理的数学灵魂 关键词提炼 #嵌入方程 #自然语言处理 #词向量 #机器学习 #神经网络 #向量空间模型 #Siri #Google翻译 #AlexNet 第一节:嵌入方程的类比与核心概念【尽可能通俗】 嵌入方程可以被看作是自然语言处理中的“翻译机”,它将文本中的单词或短语转换成计算机能够理解的数学形式,即向量。 正如翻译机将一种语言

AI Toolkit + H100 GPU,一小时内微调最新热门文生图模型 FLUX

上个月,FLUX 席卷了互联网,这并非没有原因。他们声称优于 DALLE 3、Ideogram 和 Stable Diffusion 3 等模型,而这一点已被证明是有依据的。随着越来越多的流行图像生成工具(如 Stable Diffusion Web UI Forge 和 ComyUI)开始支持这些模型,FLUX 在 Stable Diffusion 领域的扩展将会持续下去。 自 FLU

SWAP作物生长模型安装教程、数据制备、敏感性分析、气候变化影响、R模型敏感性分析与贝叶斯优化、Fortran源代码分析、气候数据降尺度与变化影响分析

查看原文>>>全流程SWAP农业模型数据制备、敏感性分析及气候变化影响实践技术应用 SWAP模型是由荷兰瓦赫宁根大学开发的先进农作物模型,它综合考虑了土壤-水分-大气以及植被间的相互作用;是一种描述作物生长过程的一种机理性作物生长模型。它不但运用Richard方程,使其能够精确的模拟土壤中水分的运动,而且耦合了WOFOST作物模型使作物的生长描述更为科学。 本文让更多的科研人员和农业工作者