智东西（公众号：zhidxcom）
作者 | 李水青
编辑 | 云鹏
智(zhi)东西10月27日(ri)报道(dao)，今(jin)日(ri)，在2023中(zhong)国计算机大(da)(da)会（CNCC）上，智(zhi)谱(pu)AI CEO张鹏(peng)宣布，智(zhi)谱(pu)AI推出第(di)三代基座大(da)(da)模型ChatGLM3及相关系列产品。
这是智谱AI继推出千亿基座的对话模(mo)型ChatGLM和ChatGLM2之后(hou)的又一次重(zhong)大突破。评测显示，在44个中(zhong)英文(wen)公开数(shu)据集测试中(zhong)，ChatGLM3在国内同(tong)尺寸模(mo)型中(zhong)排(pai)名(ming)首位。
基于ChatGLM3，智(zhi)谱(pu)(pu)AI全(quan)新上线了“智(zhi)谱(pu)(pu)清言”，国内首推代码交互能力，支(zhi)持图像处理、数(shu)学计(ji)算(suan)、数(shu)据分析(xi)等多个场景，张鹏在(zai)现场对这些能力进行(xing)了实时(shi)演示(shi)。
张(zhang)鹏透露(lu)，最新(xin)版本(ben)的ChatGLM-turbo在最新(xin)AgentBench上(shang)已略(lve)超(chao)出GPT-3.5。在算力方面(mian)，ChatGLM3已支持昇腾、海(hai)光DCU等(deng)10余种(zhong)国产硬件(jian)生态；考(kao)虑更(geng)多边缘侧需求，ChatGLM3提供(gong)1.5B、3B等(deng)更(geng)丰富的模型尺寸，支持在笔记本(ben)电脑、手机、汽车上(shang)部署。
在(zai)开源(yuan)生态(tai)方(fang)面，智(zhi)谱AI将对话ChatGLM3-6B、长(zhang)文本ChatGLM3-6B-32k、多模态(tai)CogVLM-17B、智(zhi)能体AgentLM开源(yuan)。
此外，面(mian)向企业(ye)级市场，智谱(pu)AI开放平台推出私(si)有模(mo)型(xing)方(fang)(fang)案(an)、专属模(mo)型(xing)方(fang)(fang)案(an)、开放模(mo)型(xing)方(fang)(fang)案(an)多种选(xuan)择，据称ChatGLM-turbo的API价格下降50%。
一、ChatGLM3评测排名首位，新功能瞄向GPT-4V
ChatGLM3发布，是(shi)智(zhi)谱AI今年来第三次对ChatGLM基座模(mo)型进行(xing)了(le)深度(du)优化。智(zhi)谱AI采(cai)用了(le)多阶段(duan)增强预训(xun)练(lian)方(fang)法、更丰富(fu)的训(xun)练(lian)数(shu)据(ju)和更优的训(xun)练(lian)方(fang)案，使ChatGLM3-6B具备更强大(da)的性能。
1. 更强大性能，44项测试国内排名第一
测评显(xian)示，ChatGLM3在(zai)44个中(zhong)英(ying)文公开(kai)数据集测试(shi)中(zhong)国内(nei)同(tong)尺寸(cun)模(mo)型排名首位，其中(zhong)，MMLU提(ti)升(sheng)(sheng)36%、CEval提(ti)升(sheng)(sheng)33%、GSM8K提(ti)升(sheng)(sheng)179% 、BBH提(ti)升(sheng)(sheng)126%。
2. 瞄向GPT-4V，四大技术升级
瞄向GPT-4V，ChatGLM3 本次(ci)实现了(le)若干全新(xin)功能(neng)的(de)迭代升级，包括：
（1）多模态理解能力的CogVLM，看图识语义，在10余个国际标准图文评测数据集上取得SOTA。
（2）代码增强模块Code Interpreter，根据用户需求生成代码并执行，自动完成数据分析、文件处理等复杂任务。
（3）网络搜索增强WebGLM，接入搜索增强，能自动根据问题在互联网上查找相关资料并在回答时提供参考相关文献或文章链接。
（4）ChatGLM3的语(yu)义能力(li)与逻辑能力(li)大(da)(da)大(da)(da)增强。
3、更高效推理，速度提升2~3倍
ChatGLM3实现了更高效(xiao)(xiao)的(de)推理，ChatGLM3通过高效(xiao)(xiao)动态(tai)推理和显存优(you)化(hua)技术的(de)应用，相(xiang)较于目前(qian)最佳开源实现vLLM速度提(ti)升2~3倍(bei)。
4、 全新Agent智能体能力，比二代提高100倍
针对近期讨论更火(huo)热的AI Agent能(neng)力，ChatGLM3采(cai)用全(quan)新Agent智能(neng)体算法(fa)，充分激(ji)活大(da)模型智能(neng)体能(neng)力，在智能(neng)规(gui)划和执行方(fang)面，相比ChatGLM二(er)代提高1000%。
智谱AI还开启(qi)国产大模型原(yuan)生支持(chi)工具调(diao)用(yong)、代码执(zhi)行、游戏、数(shu)据库操作、知(zhi)识图谱搜索与推理(li)、操作系统等复杂场(chang)景。
二、与GPT-3.5平齐，全面适配国产硬件生态
张(zhang)鹏透(tou)露(lu)，最(zui)新(xin)版本的ChatGLM-turbo在最(zui)新(xin)AgentBench上和(he)GPT-3.5平(ping)齐，甚至略有超出(chu)。
智谱AI很早就高度关注到(dao)算力(li)(li)问题，布局全面适配(pei)国产硬件生(sheng)态，以保证算力(li)(li)安全。
据悉，自2022年初，GLM系列模(mo)型已(yi)支持在昇腾、神威(wei)超算(suan)、海(hai)(hai)光DCU架构(gou)上进行大规模(mo)预(yu)训练和推理。当前其已(yi)支持10余种国产硬件生态(tai)，包括昇腾、神威(wei)超算(suan)、海(hai)(hai)光DCU、海(hai)(hai)飞科、沐(mu)曦(xi)曦(xi)云、算(suan)能科技、天(tian)数智(zhi)芯(xin)、寒武纪、摩尔线程(cheng)、百(bai)度昆仑芯(xin)、灵(ling)汐科技、长城超云等。
考虑(lv)更(geng)多边缘侧需(xu)求(qiu)，ChatGLM3提供1.5B、3B等更(geng)丰富(fu)的模型(xing)尺寸。支持(chi)国产芯片(pian)的Edge版模型(xing)ChatGLM3-1.5B，可(ke)在笔(bi)记本电脑(nao)、手机、汽(qi)车上(shang)部署。支持(chi)移动平台上(shang)CPU芯片(pian)推理，速度可(ke)达20 Tokens/s；精度方面，1.5B和3B模型(xing)在公开Benchmark上(shang)与(yu)ChatGLM-60接近。
在开源(yuan)生(sheng)态方面，智谱AI将对话ChatGLM3-6B、长文本ChatGLM3-6B-32k、多(duo)模(mo)态CogVLM-17B、智能体AgentLM开源(yuan)。据悉(xi)，ChatGLM-6B在全球已有超1000万下载(zai)量，累计四(si)周居于Hugging Face趋势榜(bang)第一，GitHub超5万Stars。
三、全新“智谱清言”上线，国内首推代码交互能力
在全新升级的ChatGLM3赋(fu)能下，生(sheng)成式AI助手智(zhi)谱清(qing)言已成为国内(nei)首个具备代码(ma)交互能力(li)的大(da)模(mo)型(xing)产品（Code Interpreter）。
体验地址：//chatglm.cn/main/code
“代码”功能目前已支持图(tu)(tu)像处(chu)理、数学计算、数据分析等使(shi)用场景。以(yi)下分别(bie)为各个(ge)能力的演示(shi)情况截图(tu)(tu)：
处理数据生成图表：
代码绘制图形：
上传SQL代(dai)码分(fen)析：
随着WebGLM大模型(xing)能力的(de)加(jia)入(ru)，智(zhi)谱清言也(ye)具有了搜索增(zeng)强能力，可以帮助用户(hu)整理(li)出(chu)相关(guan)问题的(de)网上文献(xian)或文章链接，并直接给(ji)出(chu)答案。
此前已发布的(de)CogVLM 模(mo)型则(ze)提高了智(zhi)谱清言的(de)中文(wen)图文(wen)理解能(neng)力，取(qu)得了接近GPT-4V的(de)图片(pian)理解能(neng)力，它可(ke)以回答(da)各种类型的(de)视觉问题(ti)，并且(qie)可(ke)以完(wan)成复杂的(de)目标检测，并打上标签(qian)，完(wan)成自动数据标注。
四、推出智谱AI开放平台，API价格下降50%
面向企业级市场(chang)，智(zhi)谱AI构建了(le)智(zhi)谱AI开放(fang)平(ping)台(tai)，包括私有模型(xing)方案(an)、专属模型(xing)方案(an)、开放(fang)模型(xing)方案(an)。
随着本次(ci)发布(bu)，智谱AI的API产(chan)品矩(ju)阵发生变化(hua)：从提供(gong)ChatGLM-Pro、ChatGLM、ChatGLM-Lite多款产(chan)品，向提供(gong)一(yi)个(ge)整(zheng)体ChatGLM-turbo演化(hua)，价格下降50%。
智(zhi)谱AI开放平(ping)(ping)台(tai)不仅能够(gou)帮助提(ti)供API，也提(ti)供模型的定制化(hua)(hua)私(si)有化(hua)(hua)以(yi)及自有数(shu)据的使用。平(ping)(ping)台(tai)还提(ti)供一些标准化(hua)(hua)的组件，比如外挂知识库、向量化(hua)(hua)能力(li)等。
利(li)用这些能力，用户能够快速的(de)去构建自己的(de)一些基本应用。
结语：全面对标OpenAI，智谱AI大模型再升级
2020年是大(da)模型元年，GPT-3的(de)(de)(de)出世(shi)标志着大(da)模型进入(ru)“可(ke)用阶段(duan)(duan)”，也是生成式AI落地的(de)(de)(de)第一阶段(duan)(duan)。这一阶段(duan)(duan)，产业关注(zhu)的(de)(de)(de)是怎么(me)去(qu)构建一个精度足够(gou)高、稳定性足够(gou)好、更(geng)大(da)规模的(de)(de)(de)大(da)模型。
智谱AI从2020年(nian)开始基于GLM预训练模(mo)型的框架做研发，到(dao)(dao)2021年(nian)发布(bu)第一(yi)(yi)个开源百(bai)亿(yi)大(da)模(mo)型GLM-10B，到(dao)(dao)后(hou)续的一(yi)(yi)系列模(mo)型的诞(dan)生，不断迭代。对标(biao)OpenAI全模(mo)型产品线，是智谱AI在(zai)创(chuang)立之初就一(yi)(yi)个写在(zai)愿景里的一(yi)(yi)个目标(biao)。
可以看到，对(dui)标(biao)OpenAI推出(chu)的ChatGPT、DALL.E、Codex、WebGPT和GPT-4V，智谱AI推出(chu)了(le)(le)ChatGLM对(dui)话、CogView文生图(tu)、CodeGeeX代码(ma)、WebGLM搜索增强和ChatGLM3图(tu)文理解等(deng)产(chan)(chan)品，体现了(le)(le)国产(chan)(chan)大模(mo)型的实(shi)力积淀。
