众为Portfolio | 依图科技CTO颜水成:让“AI”成为“Affordable Intelligence”
07/01/2020

AI技术进入全面渗透、加速创新的新阶段,新一代人工智能方兴未艾。12月20日,依图科技CTO颜水成受邀出席“2019新一代人工智能院士高峰论坛”,并发表主题演讲“Transform AI into Affordable Intelligence”。

颜水成博士分享说,只有在高效能的AI模型和高效能的AI芯片综合驱动下,“A.I.”才能转换成为“Affordable Intelligence”,让最终用户买得起、用得好。

依图科技CTO颜水成博士

“2019新一代人工智能院士高峰论坛”由鹏城实验室和新一代人工智能产业技术创新战略联盟主办,是国内人工智能平台建设最高水平的精英会,中国工程院院士、鹏城实验室主任高文,中国科学院院士、美国科学院外籍院士蒲慕明等十余位院士现场点评,集中讨论AI创新应用成果。

作为产业界代表,颜水成博士与百度CTO、深度学习技术及应用国家工程实验室主任王海峰,腾讯 AI Lab & Robotics X 主任张正友等一同发表了主题演讲,并从算法和算力两个维度,介绍了依图提升AI基础设施和AI解决方案产业效能,从而提高人工智能落地广度和深度的探索。

让AI成为

“Affordable Intelligence”

随着AI不断往前发展,越来越多场景中都可以见到人工智能。但是,让“A.I.”成为“Affordable Intelligence”,还存在很大的挑战。

AI创业公司和大厂AI实验室的核心使命是让AI真正落地。

要想解锁一个AI场景,需要两个维度不同的引擎。其中一个是算法,首先要保证可以用,算法精度足够高,能够真正解锁一个场景,其次要足够用,如今有很多场景仅凭单模态的算法已经无法提供用户满意的解决方案,图像、语音等相结合的多模态AI愈发关键。

第二个引擎是算力,比如说支撑计算的AI芯片,首先要买得起,并发性能足够高,能解析很多路数的视频,其次要用得起,使用时功耗足够低,不然数据中心的电费和运维费用会使得用户承受不起。

所以,真正让AI在一个场景落地,要从算法、算力两个维度实现“准、全、快、省”

基于模型的

Affordable Intelligence

我们来看一些例子,不同场景解锁的重点是不一样的,比如同为人脸识别,不同的场景对算法有着不同的要求

门禁系统要求的精度可能很多公司都能做到,但是对于百万、千万甚至上亿量级的刷脸支付,中国能提供这种技术的公司屈指可数。

只有不断提升算法精度,才能真正解锁这些不同的场景。

此外,在现有基础上进一步提升,比如一个城市有很多的摄像头,但当我们希望处理百万量级的摄像头系统时,将它们合在一起作为群体智能考虑,对解决方案就是大的挑战。

研究表明,训练和测试人工智能模型所需要的算力,每三个半月就会翻一番,这比摩尔定律已经快了很多。今年刚开完的NeurIPS会议,大家都在讨论,AI用得越来越多,消耗的电力越来越高,会不会对环境产生影响?

依图在高效能的AI模型上一直在不断探索,也取得了很多突破。最近我们和Facebook合作,提出了“八分音符卷积”。我们发现,与图像类似,Feature Map也会有高频和低频之分,对于低频的部分可以进一步压缩,以低分辨率的格式保存和处理。

于是我们就让Feature Map变得异构化,设计相应卷积操作,输出异构的Feature Map,模型变得比以前更小。因为仅对低频部分进行压缩,信息损失很小,同时这种多尺度结构增加了感受野,模型分类效能可以显著提高。同时由于模型资源开销变小,所以同样的算力可以训练更大的模型。

实际使用非常方便,我们提供了多个示例在 GitHub 上,只要直接使用我们提供的Python包替换即可,无需调参数,也无需改变网络结构。

基于芯片的

Affordable Intelligence

依图在三年前就布局芯片。今年5月,依图发布了第一款芯片“求索”(QuestCore™),做视频全解析,单芯片功耗低于1W。

发布的时候,我们现场连接了两百路视频,做实时的人脸检测和人脸识别,实现了“发布即商用”。

为什么依图设计出来的芯片有竞争力?因为我们在设计芯片时想得清楚,要遵循“算法即芯片”原则。当我们在设计这款芯片的时候,我们知道这款芯片典型的使用场景,因此能确保芯片能达到最高效能,同时我们能预测这个领域里最前沿算法的发展趋势,由此去优化芯片的架构和工具链,从而实现算法和芯片的相互优化。

不仅如此,我们也做到芯片和算法分层解耦,确保第三方也能使用依图的这款芯片去加速他们的算法。

这款芯片发布后,跟市面上最先进的解决方案相比,单路视频解析功耗能降低到五分之一到十分之一。现在我们提供AI服务器和边缘盒子这两种形式的产品,希望最终用户在使用我们解决方案时,首先数据中心的建设成本足够低,其次运维费用也能大幅减少。

当我们把高效能的AI模型和高效能的AI芯片相融合,就可以打造软硬一体化的解决方案,解锁更多的场景,在不同的场景中发挥价值。比如说智能城市轨交刷脸支付,可以用边缘盒子满足对于计算的需求,智能商业刷脸支付也可以采用边缘盒子,而对于医疗场景,比如智慧医院进行海量医疗图像分析,就可以使用云端AI服务器。

随着AI融合进入越来越多的场景,我们不断追求高精度和高性能,对于算力的要求也越来越高。这时候AI的“Affordable”就会变得越来越重要,而要让“A.I.”成为“Affordable Intelligence”,高效能的AI模型和高效能AI芯片是推动这一转换的双引擎,只有这样才能让我们最终的用户能够买得起和用得起。

谢谢大家!

本文来源于依图科技公众号