瀚博半导体亮相2022世界人工智能大会,发布全系列新品,并预览全新GPU

2022-09-03

9月3日,作为立足中国、服务全球的高端芯片设计公司,瀚博半导体参加2022世界人工智能大会,并同期举办“用‘芯’赋能 虚实无界——人工智能大芯片产业落地论坛”。会上,瀚博半导体创始人兼CEO钱军发布了瀚博统一计算架构、全新数据中心推理卡载天VA10、边缘AI推理加速卡载天VE1和瀚博软件平台VastStream扩展版,并预览了国产7nm云端GPU芯片SG100。




统一计算架构、AI芯片和软件平台



强大的芯片性能,源自优秀的计算架构。会上,瀚博发布了自主研制的统一计算架构(Vastai Unified Compute Architecture)。该架构整合了多款高性能计算引擎,拥有高效统一的存储管理、一致性接口和低链接延迟、完整的虚拟化功能、统一的底层软件设计、模块化的上层计算算子库和功能模块。瀚博统一架构让计算密集型的AI、视频、渲染任务性能得到最大化硬件加速,同时端到端缩小延时,一体化助力云端实时图形渲染、AI增强处理、视频编解码等需求。



瀚博还发布了数据中心推理卡载天VA10。这款加速卡搭载瀚博自研的超低延时、超高吞吐AI引擎,最大的亮点在于,Int8峰值算力达400TOPS,再次刷新业界纪录。载天VA10功耗150瓦,整体最高推理性能达到同功耗主流GPU的2倍以上,且延时低至后者的6%。在低延时场景(低于4毫秒的YoloV3检测算法场景)下,载天VA10的推理性能,更达到同功耗市场主流GPU的3倍以上。载天VA10适合多种需要高实时性的云端AI应用部署,如直播视频增强、智慧交通管理、实时语义理解等场景。


载天VA10:性能优异的国产数据中心推理卡,高性能加速云端实时AI推理和视频处理


边缘算力产品也是此次产品发布的创新之处,瀚博发布了首款面向边缘大算力场景推理卡载天VE1系列。值得关注的是,载天VE1兼具超低时延与超高吞吐率,吞吐率达到主流GPU的2倍,但时延仅为其的1/5。



更重要的是,载天VE1功耗低、算力大,在 40~65瓦功耗下,INT8峰值算力达100 TOPS,这款加速卡支持60路1080P视频实时解码,支持主流AI框架的模型,提供从模型编译到推理优化的全流程低代码开发框架VastPipe,软硬结合为客户提供端到端的AI推理解决方案。


基于超高吞吐率和超低时延的优势,载天VE1可在众多关键场景发挥重要作用,比如高速公路事件检测、“人、车、非机动车”视频结构化、大数据研判等超高数据量并发场景;再比如,道路实时动态信息交互、工业的缺陷检测等低延时要求场景。载天VE1非常适用于智慧交通、车路协同、工业质检等边缘大算力场景。


载天VE1:边缘AI推理加速卡,边缘计算的佼佼者,推动云边协同,边缘场景落地


瀚博联合合作伙伴,推出智能一体机解决方案。基于常见业务场景,设计整机配置和架构方案,对配置和设定进行深度优化及整合测试,提供可靠高性能整机方案。


瀚博智能一体机:整机一站式解决方案,部署灵活,节能降本


硬件要发挥最佳性能,更需要软件的同步支持。因此,瀚博的软件平台VastStream应运而生,这一软件平台功能强大,可加速各类AI应用部署,包括计算机视觉、视频处理、自然语言处理、搜索与推荐、算子自定义扩展等。


VastStream的全新软件组件,提供系统管理等三大管理工具,方便客户部署,同时其基础软件栈功能更加丰富,特性包括统一接口、灵活调度、通用AI计算、多路高效视频转码+AI增强、易编程快迁移、工具链完备等。


至此,瀚博已形成一条涵盖了芯片、推理加速卡、一体机的硬件产品线和软件整合的系统解决方案。



国产7nm云端GPU:瀚博SG100



会上,钱军还展示了国产7nm云端GPU芯片SG100,这款芯片具备业界领先的图形渲染性能,拥有世界领先的超高吞吐、超高质量、低延时的编码能力,集渲染、AI、视频于一体,为云游戏、云手机、云桌面、云计算等元宇宙关键性应用场景提供深度优化。同时,SG100还提供世界一流的SR-IOV虚拟化支持,端到端整体提升用户视觉体验。



据悉,瀚博CEO钱军曾是AMD高管,在创办瀚博半导体之前,他曾带领AMD中国团队设计量产了业界第一颗 7 纳米图形处理器和第一颗 7 纳米 GPGPU 架构的 AI 芯片。同时,瀚博的核心研发团队也都拥有18年以上高端芯片设计和量产的经验。SG100的成功研制正是基于上述深厚且独一无二的技术背景和底蕴。


因为SG100的到来,瀚博正式进入了GPU市场。未来瀚博将基于GPU、AI和视频核心技术带来更多产品组合,更好地满足市场、客户的需求。



携手合作伙伴产业落地,产学研联盟打造应用生态



在人工智能、元宇宙新时代,AI芯片作为新型算力基础设施,将发挥至关重要的作用。瀚博半导体在积极研制业界领先的AI芯片的同时,一直在积极部署产业落地,助推数字经济发展。



2022年以来,瀚博先后与福建大数据集团、国宁瑞能、高新兴、超聚变等行业领先企业,在智慧城市、智慧政务、智慧交通、智慧园区、智慧能源等多元场景,开展深入合作,为企业智能化、数据化提供国产AI算力解决方案。


打造生态是瀚博半导体战略版图中的头等大事,为了促进技术生态的发展,瀚博一直在联合全球顶级的技术、人才、机构和高校建立合作。



会上,瀚博与上海交通大学人工智能研究院签约,开展校企合作,瀚博希望通过产学研用联盟的方式,让更多优秀的人才、资源参与进来,推动技术进步、人才培养、科研成果转化,建立智能芯片生态。


未来,瀚博将持续发挥自身产品超强算力、高效适配等优势, 携手合作伙伴,加速在各地、各类场景的产业化落地的步伐,赋能更多企业和政府机构实现智能化升级,用浩瀚算力助推中国数字经济发展。