明敏 发自 凹非寺
量子位 | 公众号 QbitAI
刚刚,vivo自研通用大模型矩阵正式发布!
一共5款,兼顾端云:
-
1B端侧大模型
-
7B端云两用模型
-
70B云端主力模型
-
130B云端大模型
-
175B云端大模型
其中7B版本将对外开源,由此vivo成为首家开源大模型的手机厂商。
并且vivo还实现了13B版本在端侧跑通,同样是行业首家。这意味着手机上能直接玩130亿参数大模型了。
基于自研大模型能力,vivo推出两款大模型产品:蓝心千询自然语言对话机器人和蓝心小V助手。
前者具备自然对话、文本创作、图片生成、代码编写等能力,将登陆各大应用商城。
后者是系统级的AI系统助理,内置于vivo最新发布的OriginOS4。它不仅具备流畅的对话能力,还可以处理图像,比如把拍摄照片中的路人“隐身”。
而在大模型加持下,vivo自研蓝河系统正式面世!
蓝河操作系统拥有应用开发新范式、虚拟显卡框架和超级协程机制,并采用分布式设计理念,兼容行业标准协议。
首款搭载产品为vivo Watch 3。
大模型安全性能业内第一
vivo具体介绍了蓝心大模型矩阵中各个模型的专长和分工。
规模最小的10亿参数大模型,完全跑在端侧,内存占用仅为1GB,出词速度达到64字/秒。
70亿参数版本端云两用,首词响应仅需1秒。
如上端侧模型支持联发科和高通旗舰级平台本地处理。
百亿级别大模型能提供更加丰富的能力。
700亿参数版本是端云主力模型,支持角色扮演、知识问答、自然对话等能力,在多个评测榜单中位列第一。
千亿级别包括1300亿和1750亿版本,它们可以进行更加复杂的逻辑推理和任务编排。
vivo表示,蓝心自研模型由庞大数据量支持模型训练和优化。
模型强调价值取向正确、安全、无害、真实几个方面。
为此在研发过程中,vivo对Transformer架构注意力机制进行改良,并进行有监督微调、人工标注等方面加强。
在SuperCLUE-Safety安全总榜上,蓝心大模型超越多家业内大模型,问鼎榜首。
在训练效率上,vivo2个月内训出千亿级模型、2周搞定百亿模型的速度。
而在开源7B版本的基础上,vivo还带来了蓝心大模型开发套件BlueKit,开箱即用。
为了激励开发者,vivo还将掏出1亿元资源支持。
大模型APP将登陆各大应用商店
蓝心大模型的具体能力,还得看具体产品。
首先是内嵌于OriginOS 4中的AI私人助理蓝心小V。
它实现了全局智能辅助,具备自然对话、意图理解、智慧搜索、图像智慧处理、图文生成等能力。
比如基于图片生成文案:
或者完成专业级的文本处理任务:
这些能力在发布现场都进行了演示。
另外,vivo还发布了蓝心千询,它以APP形式推出,额外增加了代码能力。能够编写量化框架、Python语言界面,30秒响应。
蓝心千询公版APP之后将上线各大手机应用市场,不只vivo手机可用。
而在自研大模型能力加持下,vivo最新一代OriginOS4,能够实现1+2+N智能系统体验。
OriginOS4内测从明日开启,公测在12月中下旬开始。vivo 新旗舰 X100、iQOO 12手机首发将搭载。
更进一步,还带来了面向AI时代的自研操作系统蓝河(BlueOS)。
vivo副总裁、OS产品副总裁、vivo AI全球研究院院长周围介绍,蓝河操作系统BlueOS具备三大特性:天生更智慧、天生更流畅、天生更安全。
智慧方面,蓝河操作系统支持多模态交互,利用机器学习和自然语言处理技术,用户可以通过声音、视觉、触觉等多种交互形式,实现下一代自然交互界面。
流畅层面,周围称CPU从200MHz-4GHz,内存从32MB-24GB,各类配置均可实现运行。
安全层面,蓝河操作系统是行业首个系统框架由Rust语言编写的操作系统。
蓝河操作系统的具体形态,在本月就会和大家见面,vivo透露首款搭载蓝河操作系统的设备vivo Watch 3将于很快发布。
— 完 —
《2023年度十大前沿科技报告》案例征集
量子位智库《2023年度十大前沿科技报告》,启动案例征集。诚邀顶级研究机构、一流投资大咖、前沿科技创新公司,参与共创,分享案例。
扫描图片二维码参与前沿科技案例征集。了解更多细节可联系报告负责人:郑钰瑶(微信:CarolineZheng_,请备注企业+姓名)。
点这里👇关注我,记得标星哦~
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~