网站导航
小九直播nba下载
当前位置:首页 > 小九直播nba下载

国产百亿大模型再增一员!400亿参数孟子GPT发布功能提高10-15%

时间:2023-11-26 来源:小九直播nba下载

  自21年建立以来,澜舟科技先后发布孟子系列模型、MChat以及多个笔直范畴模型,并拿下数亿元融资。

  这次发布是孟子GPT上新。除了根底大模型以外,澜舟科技还同步上线了行业大模型,以及根据大模型的产品应用。

  根据这三方面上新,澜舟科技也表明,未来将全面拥抱MaaS服务,供给根底模型、大模型练习结构/工具包等服务。

  据发布会介绍,孟子GPT-40B主要在中文及多言语才能、写作、多轮对话等方面做了提高。

  经过网页、百科、社会化媒体、新闻以及高质量开源数据集,孟子GPT-40中文才能愈加杰出。

  而且根据万亿tokens多言语语料联合练习,更逐渐提高了英语等言语才能。

  在底层算法上,澜舟表明使用了更老练的预练习技能,使用50万指令数据精调,根据70亿参数量的奖惩函数进行强化学习。

  根据FlashAttention的高效注意力核算,练习速度提高8.5倍。根据TGI等加快结构,推理速度提高4.6倍。

  同步发布的澜舟智会,能提取出会议录音/视频的核心内容,生成总结和摘要,而且能对关键进行问答。

  澜舟科技是以NLP技能为根底的认知智能公司,由AI大牛周明兴办,建立于2021年6月。

  周明,当今NLP范畴成果最高的华人之一,他不仅是我国第一个中英翻译体系的研制者,还在2019年成为AI言语范畴第一流顶会ACL(世界核算言语协会)主席。

  1991年在NLP重镇哈工大拿到博士学位后,周明进入清华任教;1999年被微软亚洲研讨院开创院长李开复挖走,后来不久成为NLP研讨组负责人。

  2020年脱离MSRA加盟立异工场担任首席科学家时,周明已担任MSRA副院长多年。

  澜舟科技建立以来,主打加快AI落地,在轻量化大模型、笔直范畴大模型上都做了颇多探究。

  本年3月,澜舟科技最新拿下Pre-A轮融资,由北京中关村科学城公司领投,斯道本钱和立异工场跟投。这是澜舟科技收成的第2轮融资,2轮累计总额数亿元。