请选择 进入手机版 | 继续访问电脑版

雨林木风

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 13|回复: 0

面向云端数据中心燧原科技发布首款人工智能推理产品

[复制链接]

8499

主题

8506

帖子

2万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
26041
发表于 2020-12-22 11:30:41 | 显示全部楼层 |阅读模式
  人工智能早已影响了人们使命糊口的各个方面,人工智能需求数据的支柱,而大数据统治早已进入需求云端支柱的期间。于是面向云端数据中央的人工智能加快卡为数据统治供应了强壮的算力。
  继客岁12月宣告了首款面向数据中央的人工智能锻练加快卡“云燧T10”后,即日燧原科技宣告首款人工智能推理产物“云燧i10”,这恰是一款面向云端数据中央的高机能推理卡,用以知足因为AI行使和落地场景疾速推广,墟市和客户对更高性价比以及邦产化和分别化云端推理产物的需求。
  燧原科技CEO赵立东透露,“暂时环球科技物业卓殊是集成电途物业正正在爆发深入革新,燧原科技会连接加快技艺立异和产物迭代。”
  与此同时,与上下逛伙伴合营,加快交易落地,推广墟市界限。针对互联网数据中央、笔直行业(金融、保障、熏陶、医疗及运营商等)、新基筑三大交易宗旨的行使场景,完整锻练和推理软件栈、东西链和管理计划。通过产学研合作,共开邦产化物业生态,助力中邦人工智能和集成电途物业的成长。”
  人工智能对待算力的请求十分高。云燧i10是单槽位轨范卡,大大加疾了人工智能的深度进修历程中的运算症结。支柱PCIe 4.0,FP32算力抵达17.6TFLOPS,BF16/FP16算力70.4TFLOPS。
  据先容,“云燧i10”具有卓绝的算力、增色的通用性以及优异的价钱性格:高算力、众精度:FP32算力17.6TFLOPS,BF16/FP16算力70.4TFLOPS;采用自助指令集,支柱从FP32到INT8等众种精度,而最大功耗仅为150W;高能效、高牢靠性:采用动态调频调压(DVFS)技艺,遵循负载加快行使机能,支柱RAS、ECC;筑造虚拟化:完成众用户支柱,最大可支柱4个筑造实例,具备阴谋与存储资源的独享性,众用户间太平隔断;单颗芯片上可同时安置区别的交易与负载,完成众做事并行,有用升高行使率;支柱KVM、Xen等编制虚拟化平台;易编程、生态盛开:盛开C++和Python编程接口,支柱CNN及NLP模范模子,支柱主流呆板进修框架,并通过SDK供应深度定制。
  燧原科技COO张亚林先容道:“云燧i10正在众项基准测试中,机能领先,并已已毕与海潮、新华三及Supermicro等办事器厂商推理办事器的适配。可合用于视频图像、语音、自然说话统治、学问图谱等众种行使场景,并针对实质了解、推举、识别等高精度场景做了优化。与此同时,面向众元的开采需求,咱们供应区别主意的开采形式,针对客户定制化算法模子撮合开采,从而完成与客户的双赢。”
  除了硬件,燧原科技同时推出针对推理产物的高机能神经搜集模子推理引擎“鉴算TopsInference”。通过阴谋图优化、算子调和、模子压缩、量化等优化技艺,可认为深度进修行使供应低延迟、高含糊率的推理机能。
  通过TopsInference的推理加快,配合i10 的高算力及虚拟化技艺,数据中央可能高性价比地安置阴谋稠密型深度进修使命负载。其它TopsInference除TensorFlow、PyTorch模子方式外,还支柱ONNX通用模子方式,借助燧原GCU-CARA架构的可编程性,可能应对改日深度神经搜集日益众样化、庞杂的拉长趋向。云燧i10与云燧T10以及“驭算TopsRider”软件平台搭配,可完成算法模子正在数据中央训推一体化的迅速出产安置。(完)
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

|appname
快速回复 返回顶部 返回列表