生成式AI技术栈排名，沙利文：商汤科技中国第一

十三
2024-12-27
16:25:07

来源：量子位

创新实力强、应用落地广，GenAI（生成式AI）技术栈领域，商汤科技位居国内榜首！

近日，权威研究机构弗若斯特沙利文（Frost & Sullivan, 简称“沙利文”）联合头豹研究院发布《2024年中国GenAI技术栈市场报告》，商汤科技在11个GenAI厂商中超越阿里云、百度智能云和华为云，增长指数和创新指数均排名国内第一，在全球排名中仅次于亚马逊云科技。

报告认为，商汤积极投入技术创新，致力于为用户提供行业领先的自研模型与高性能国产化的推理引擎，同时建立了包含机器与人工审核、安全评测与内容安全策略迭代升级等在内的完整性安全管理方案，是GenAI技术栈领域的领导者。

基于商汤大装置，创新力和增长力领跑国内市场

GenAI技术栈是连接硬件设施层与终端用户交互的中间层，集成了包括基础模型、数据处理、模型训练调优、模型部署监控等技术和工具，提供从模型初始化到部署全过程的一站式解决方案。

《2024年中国GenAI技术栈市场报告》从创新和增长两个维度、共10个一级评价指标进行GenAI技术栈竞争力分析。

报告显示，商汤科技在两个维度中均排名全球第二、国内第一，其中创新维度获得“资源利用率优化管理、缓存与记忆、精炼压缩模型”三大模块最高分，展现出三大能力优势：

• 高效的资源利用率优化能力：商汤自研高性能大模型推理引擎性能优势明显，在相同算力及电力成本下将每秒请求数（QPS）提升4倍。同时基于训推一体、算电协同等技术创新，万卡集群GPU资源利用率最高达到80%以上。
• 高效的缓存与记忆能力：建立了数据飞轮机制，形成自我强化的反馈循环，实现模型性能的不断提升。
• 精炼的压缩模型能力：在代码小浣熊办公助手和代码助手应用场景中，通过模型体积压缩，实现数倍的显存节省、高比例的速度提升。

在增长维度，商汤科技斩获“行业客户与场景方案”模块最高分，展现出了商汤生成式AI落地应用的广度和深度：

• 覆盖领域广：商汤“日日新”大模型已在金融、医疗、Copilot助手、拟人交互、智能终端等关键领域确立了卓越的应用价值和领先地位。
• 应用触达深：商汤科技与各行业头部企业展开紧密合作，助力运营商提高算力资源利用，助力媒体创新内容生产模式，为生成式AI应用落地提供了丰富的标杆案例与行业经验。

引领GenAI技术栈发展趋势，加速GenAI应用落地

报告指出，高质模型的构建、安全合规的优化、推理成本的降低、数据价值的释放、产品应用化的实现，是用户在构建GenAI应用时的核心考量因素。

而商汤科技在GenAI技术栈领域取得领先，主要源于以下几个方面：

• 积极的创新投入：不仅构建了自主算力平台，商汤日日新大模型在多评测集上也均保持领先地位，让用户可以调用不同模态与不同行业性的基础大模型。
• 高性能的推理引擎：商汤大型分布式推理系统，拥有高性能算子库与极致优化的推理框架，在软硬件底层优化、自适应分离架构、国产化生态打造以及前瞻性的“多模态AGI+云/边/端系统”布局等层面优势显著。
• 完善的安全管理框架：商汤针对GenAI场景，设计了符合大模型特质的内容安全运营体系，为用户提供完整的安全管理方案。

报告认为，GenAI技术栈将呈现模块化、标准化、平台化、简易化、去中心化的发展趋势，MaaS（模型即服务）的广泛推广还将重构生成式AI的商业化生态。同时，作为一项底层创新技术，GenAI还将催生全新类型的信息商品，有望造就出全新的产品时代和超级产品。

商汤大装置万象，包含模型开发平台和应用开发平台，面向企业与开发者提供模型管理、模型微调、推理部署、数据管理，以及智能体应用等一站式大模型服务，并成功应用于央国企、运营商、汽车、互联网等行业客户。

商汤大装置将不断完善GenAI技术栈，通过一系列工具与服务协助用户降低模型开发门槛，以MaaS大模型即服务的创新模式，推动生成式AI应用的商业化落地和生态构建。

Read More