OPPO与联发科技共建大模型端侧化部署方案,AndesGPT获双榜第一

来源:千龙网    2023-10-11 15:26
来源: 千龙网
2023-10-11 15:26 
分享
分享到
分享到微信

10月11日,OPPO宣布与联发科技合作共建轻量化大模型端侧部署方案,通过采用4位量化技术,实现精度不掉点效果下端侧化性能更优,共同推动 AndesGPT 大语言模型和多模态大模型在端侧逐步落地。

AndesGPT 作为OPPO自主训练的生成式用户专属大模型。该模型以“端云协同”为基础架构设计思路,推出从10亿至千亿多种不同参数规模的模型规格,实现在本地与云端协同运作的效果。

AndesGPT 对大模型端侧推理引擎进行算子融合与优化,使得结果生成速度大于人类正常阅读速度,从而能更好满足用户需求。

AndesGPT 现身 C-Eval 全球中文榜单,并以 79.9 高分登该榜榜首。

  (C-Eval全球中文榜-受限访问的模型)

同日,基于AndesGPT大模型打造的全新小布助手开启新一轮公测,全新小布助手对传统语音助手进行内核级升级,为用户带来更智能的体验。在知识与问答方面,通过引入高质量的知识图谱、QA问答数,并结合对预训练和指令精调技术的优化,显著提升了大语言模型知识与百科能力的覆盖面和准确性。今年9月,OPPO AndesGPT登上SuperCLUE榜单,在十大基础能力排行榜的“知识与百科”能力AndesGPT测试得分高达98.33,大幅度领先其他大模型,仅次于GPT4排名国内第一,“角色扮演能力”中排名前三。

  (SuperCLUE十大基础能力排行榜)

自2020年起,OPPO已启动AI大模型相关技术的探索与实践,曾获得大规模知识图谱问答KgCLUE行业评测的第一名,中文自然语言理解CLUE第一名。未来,AndesGPT将持续加持OPPO智能助手小布的AI能力,为用户带来更好的使用体验,并逐步应用于更多OPPO核心产品中。

11月16日,ColorOS 14 将于OPPO开发者大会中亮相,AndesGPT更多元化的应用场景或将同步发布,敬请期待。

 

免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。
【责任编辑:钟经文】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn