科大讯飞华为发布大模型一体机对标A100 昇腾910B悄然商用
8月15日,科大讯飞在星火认知大模型发布会上,与华为共同发布一款用于
8月15日,科大讯飞在星火认知大模型发布会上,与华为共同发布一款用于企业构建专属大模型的软硬件一体化设备“星火一体机”,让所有企业都可以在国产自主创新的平台上自主、安全、可控地私有化部署大模型。
科大讯飞董事长刘庆峰在发布会上介绍称:“星火一体机可用于大模型的训练和推理,企业拎回去,开箱即可用。每一家企业,每一个行业、每一个学校、每个医院都可以有机会构建自己的专属大模型。”
【资料图】
他还表示,正在与华为打造面向超大规模参数大模型训练的国产算力的集群,对标英伟达的A100芯片。A100是目前在大模型训练市场上应用最广泛的芯片。
另据第一财经记者独家证实,星火一体机使用的是华为尚未官方对外发布的昇腾910B人工智能芯片。今年8月1日,华为在官网上公布了昇腾910B NPU驱动和固件升级指南。
一位业内人士告诉第一财经记者:“华为昇腾910B芯片的性能从未对外公布,但最近华为在业内大力推广这一平台,而且它的性能与上一代的910相比,应该绝对不是一个量级。”
第一财经记者了解到,星火一体机也是910B芯片首个对外商业化应用产品。上个月,科大讯飞就与华为宣布,打造基于中国自主创新的通用智能新底座。一方面,讯飞星火认知大模型基于训练推理一体化设计,实现大模型稀疏化、低精度量化的技术突破,能高效适配昇腾AI,加速大模型的行业落地应用和迭代;另一方面,以昇腾AI为核心,软硬件协同优化,构建算力集中、性能优越、供给稳定、数据安全的大模型训练集群。
据介绍,星火一体机提供从底层算力、AI框架、训练算法、推理能力、应用成效等全栈AI能力,可用于问答系统、对话生成、知识图谱构建、智能推荐等多个领域的应用,具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。
刘庆峰表示:“华为与科大讯飞将共同在生成式软硬件平台上,把高算力、高性能的算子库,多卡的高速互联以及分布式存储结合起来,尤其是我们联合针对人工智能所需要的最重要的算子库进行甄别和打磨,在此基础上架构科大讯飞的训练和数据闭环的全流程设计,以及训练和推理一体化设计的自研的大模型训练平台。”
刘庆峰称,目前该平台在单卡算力上已经能够对标英伟达的A100芯片。“现在我们基本按照国产的芯片来规划了,因为我们已经不能买美国芯片了,除了早期有的那些(英伟达)的算力外,我们现在必须全部国产化。”他表示。
讯飞星火大模型拥有130亿、650亿和1750亿三个版本的模型参数可选,围绕星火大模型,科大讯飞也在构建开发者生态,目前已经有4000多个助手开发者团队加入星火平台。
在媒体采访中谈及星火大模型未来是否会走向开源时,刘庆峰说道:“我们会做一部分开源,但是肯定不会全部开源,开源的部分主要是为了推动科研、高校研发这些目的,我们会给他们一份开源。”
(文章来源:第一财经)
关键词:
8月15日,科大讯飞在星火认知大模型发布会上,与华为共同发布一款用于
金融界8月18日消息今日发布的《2023年中国主要城市通勤监测报告》显示
“您好,我是微信(支付宝)客服,因你的‘百万保障’免费期已结束,需
大家好我是小蝌蚪,动物对对碰,关于动物对对碰的基本详情介绍很多人还
8月15日至16日,中国公安部、泰国警察总署、缅甸警察总部、老挝公安部
中新网西安8月16日电 (杨英琦) 记者16日从陕西省统计局获悉,1月
致敬医师丨药红梅:做你的“心脏守护者”,主流媒体,山西门户。山西新闻
新民晚报讯(记者孙云)昨天,杨浦区新江湾城街道以“月·悦学”学习节
00:28齐鲁网·闪电新闻8月18日讯近日,一名小女孩因坐过站,错过了与爷
A股市场早盘探底回升,三大指数均小幅上涨,创业板指一度创出年内新低
一、关注微信公众号“太原市场监管”二、食品智治→健康证明→管理注册
姚迪迎来31周岁生日,生日会在游艇上进行,姚迪的亲朋好友们参加,其中
近日,有网友在社交平台发帖称,自己购买了8月2日从上海虹桥飞往福州的
用线条描绘出的科比赛场经典瞬间剪影。
8月17日,亚朵集团发布2023年第二季度财报。今年二季度,亚朵集团实现
尼日利亚军方当地时间17日证实,尼军一支部队日前在该国中部尼日尔州遭
暴雪战网提供新登录方式现已提供Steam账号登录,登陆,动视暴雪,暴雪战网
华泰证券研报表示,暑运旺季民航需求迎来释放窗口,航司经营数据环比明
8月18日消息,中信证券研报认为,美国7月零售数据显示,零售销售环比增
2023-06-30数据显示,呈和科技前十大流通股东名单中,朱少醒的富国天惠
➤➤天津三江源国家公园双色铜合金纪念币预约兑换指南2023预约时间:20
“停车难”不仅是老旧小区的共性问题,近年来也成为新型商品房小区的治
第二十二届中国长春国际农业•食品博览(交易)会(以下简称长春农博会
21世纪经济报道见习记者巩兆恩报道8月18日,21世纪经济报道记者从多方
近期,多地继续优化调整购房政策。 8月17日,江西南昌发布15条稳楼
Copyright 2015-2022 热讯酒业网 版权所有 备案号:豫ICP备20005723号-6 联系邮箱:29 59 11 57 8@qq.com