平头哥超大型AI推理芯片含光800亮相，达摩院算法加持！

　　在去年的云栖大会上，阿里巴巴正式对外宣布，成立“平头哥半导体有限公司”。转眼，时间过了一年，这家芯片公司也取得了不俗的成果。近日，在2019云栖大会上，达摩院院长张建锋现场展示了一款超大型AI推理芯片——含光800!

        

　　据悉，含光800在业界标准的ResNet-50测试中，推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍。能效比500 IPS/W，是第二名的3.3倍。

　　张建锋说：“在全球芯片领域，阿里巴巴是一个新人，玄铁和含光800是平头哥的万里长征第一步，我们还有很长的路要走。”

　　含光为上古三大神剑之一，该剑含而不露，光而不耀，正如含光800带来的无形却强劲的算力。在杭州城市大脑的业务测试中，杭州主城区城市大脑视觉检测模型，运行于平头哥半导体含光NPU芯片上，实际测试中，基于含光NPU系统特点，实现了4路高清视频输入，更低的延迟，更高的性能，让1颗含光800的算力相当于10颗GPU。

　　含光800性能的突破得益于软硬件的协同创新：硬件层面采用自研芯片架构，通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法，针对CNN及视觉类算法深度优化计算、存储密度，可实现大网络模型在一颗NPU上完成计算。

        

　　含光800已开始应用在阿里巴巴内部核心业务中。根据云栖大会的现场演示，在城市大脑中实时处理杭州主城区交通视频，需要40颗传统GPU，延时为300ms，使用含光800仅需4颗，延时降至150ms。拍立淘商品库每天新增10亿商品图片，使用传统GPU算力识别需要1小时，使用含光800后可缩减至5分钟。

　　含光800将通过阿里云对外输出AI算力。基于含光800的AI云服务当天正式上线，相比传统GPU算力，性价比提升100%。