[2018亚太数据中心峰会]曹锋:人工智能授权下的数据中心产业发展趋势

[2018亚太数据中心峰会]曹锋:人工智能授权下的数据中心产业发展趋势 曹锋的演讲主要分为三个部分:一、人工智能产业发展的现状；二是人工智能+数据中心，人工智能如何赋予技术中心，如何使其更加环保节能。第三，简要介绍了ICOM在人工智能方面的工作。 其中，关于人工智能如何应用于数据中心，曹锋认为人工智能正在兴起的三驾马车是计算能力、算法和数据资源，与数据中心的结合是计算能力，这与数据中心非常接近。在数据中心，人工智能一方面取代了简单的重复性劳动，另一方面从大量数据中提取常规信息。第三是在众多方案中选择最佳方案。最后是在复杂的数据环境中选择最佳模式。 过去2017年，亚太地区的市场增长率接近15%，领先于世界其他主要地区，与整体经济增长水平保持同步。该地区多元化的经济发展特征使得各国的数据中心市场有着明显的差异。以香港和新加坡为代表的成熟市场保持了稳定增长，而以印度、印度尼西亚和其他国家为代表的新兴市场表现出强劲的增长势头。

2018年5月15日至17日，由中国国际数据中心年会组委会主办、中国国际数据中心圈和云百思买主办的“2018亚太数据中心峰会”在深圳举行。

5月17日，“2018亚太数据中心峰会”正式召开。中国信息通信技术大云研究所人工智能部标准与评估项目负责人、工业和信息化部人工智能关键技术与应用评估重点实验室副主任曹锋现场精彩分享了“人工智能授权下的数据中心产业发展趋势”。

中国信息通信大学大云研究所人工智能系标准与评估项目主任

工业和信息化部人工智能重点实验室关键技术与应用评价副主任曹锋

以下是这次演讲的文字记录:

曹锋:今天我的介绍分为三个部分:第一，人工智能产业发展的现状；第二个是人工智能+数据中心。在我们看来，集成的要点是什么，人工智能如何赋予技术中心，以及它如何更加环保和节能。人工智能为数据中心的新业务提供了良好的方向。第三部分是对研究所在人工智能领域工作的简要介绍。我们非常欢迎大家积极参与我们的工作。

从2017年到2018年，人工智能的发展非常普及，一系列智能产品如智能音频、智能手表等智能产品应用层出不穷。最后，英伟达的估价最后一次是190元，现在是260元。最后一次取出是在九月，我发现损失是巨大的。为什么这么热？目前，大约70%和80%的人工智能训练芯片是由Avida运送的，而Avida基本上是唯一的一个。人工智能肯定会继续火，股票不敢说。

在全球政策方面，我们可以看到，近年来，美国、英国、日本、加拿大等一系列国家都发布了人工智能技术和产品应用的相关计划和路线图。我们还可以看到，世界各国都把人工智能作为这场科技革命的重要起点来重点推进。这是中国人工智能产业发展的要求。事实上，中国共产党第十九次全国代表大会秘书长Xi提出要推动人工智能与实体经济的深度融合。我们可以看到人工智能是中国的国家战略。自2015年以来，国务院国家发展和改革委员会、工业和信息化部、教育部等部门发布了一系列国家级规划、计划等文件，从整体上推动人工智能的发展。主要有以下几点，包括新一代人工智能的发展规划，促进新一代人工智能产业发展的三年行动计划等。从天赋等方面也看出这些人实力很强。

人工智能的水平似乎已经渗透到每个人的现实生活中。例如，移动互联网、金融、医疗、政治等等，包括语音识别、互联网数据、银行保险应用、证券交易、医药和教育，所有这些都可能没有实际意义。例如，你早上起床的第一件事就是用手机看新闻。新闻有智能推送和智能筛选机制，可以推送你喜欢的新闻。例如，早上起床去上班，你打电话叫车，还有一些路径规划工作。如果你有特斯拉，你会有一些驾驶辅助设备。例如，去银行出差或去机场，人脸识别，人脸验证，来验证你是否是你自己。还有天眼项目，该项目秘密保护我们每个人的安全，并将实时识别和抓住一些敏感的人。事实上，这可能不是每个人都清楚的，但是人工智能技术已经深深地嵌入了我们的生活。

这是我们学院的一组数字。人工智能在我国的应用创新层出不穷。人工智能作为一种使能技术，可以与传统产业深度融合，帮助传统产业提高质量和效率，以及创新和提出新的管理或生产方案。

简而言之，如果这个数字关注人工智能，它将被听到更多。为什么人工智能又兴起了？三驾马车、计算能力、算法和数据资源与数据中心的结合就是计算能力，它与数据中心的结合非常紧密。

其次，在简要回顾了整个人工智能行业的发展现状之后，接下来我将重点介绍数据中心与人工智能深度集成的经验。

首先，人工智能给数据中心带来的挑战。因为许多训练芯片都是由图形处理器制成的，我敢肯定最近业界已经要求了许多图形处理器机架。可以看出，GPU服务器需要极高的机架电源。传统上，机架的高功率密度为5000瓦或8000瓦，但其级别更高。随着电力密度的增加，供电和配电基础设施的能力不仅会呈指数级增长，而且还可能呈指数级增长。事实上，制冷非常简单。更多的电需要更多的散热。因此，一方面，许多企业正在探索从空气冷却到液体冷却的转变。当单台机器的功率超过20KW和30KW时，空气冷却对散热的改善不是很强。在国外这方面的研究中，我记得谷歌或亚马逊的数据中心人口相对稀少，但国外人口稀少，这与我国北方和北方的情况不同。我们拥有每一寸土地和每一寸钱。如果机架很大，显然成本不能结转。人工智能带来了边缘计算的兴起。为什么要将边缘计算作为一项挑战？传统上，数据中心被视为信息收集或处理的节点。一方面，许多人工智能技术，如摄像数据，需要在接近终点时进行实时训练。另一方面，如果传输到传统的数据中心，带宽需求相对较大，另一方面又无法满足实时性要求。如果每个人都要做面部测试，如果我站在那里五秒钟都认不出来，那将会特别令人沮丧。这是什么情况，发生了什么事？我们看到人工智能给数据中心带来了一些挑战。这些挑战并非不可克服。许多专家提到了数据中心、边缘计算和冷却。该行业也在随着行业趋势做相关的事情。

以下是智能数据中心。与智能数据中心相关的解决方案已成为近期的热点。人工智能能做什么？让我们看看它在数据中心做什么。一方面，人工智能取代了简单的重复性劳动，另一方面，大量的数据最终提取出有规律的信息。第三是在众多方案中选择最佳方案。最后是在复杂的数据环境中选择最佳模式。相应的数据中心是智能交通和节能。目前，我们的操作和维护是一群人盯着大屏幕，设置报警信息阈值和其他相关的模式识别任务。如果有警报，我们将帮助每个人解决它。一方面可以对故障进行实时监控，实现潜在的故障报警。如果是人类，模式识别是一些固有技术的瓶颈，可能已经达到50%或60%。此外，它对小警报或低级别警报不太敏感。根据大量算法实现一些实时故障定位，传统上，每个人可能需要找到一个故障检查手册或找一个工程师做故障定位。如果大量的数据被训练，实时故障定位将被发现。监控关键领域的问题或潜在问题。例如，我在这方面经常遇到问题。我可以用它作为一个解决方案来发现它的潜在问题或持续监控它。能够提交一些解决方案的智能建议。

最后，这里没有列表。传统数据中心的日志可能已经过时。人们一两个月内不会碰它。人们认为它可能没有价值。然而，数据中心长期运行的日志实际上可以通过深入学习形成相应的模型。这样，不仅可以实时检测或监控数据，而且最重要的是，可以预测一些问题，换句话说，可以根据当前日志的特征预测可能的问题。这相当于从羊丢失后的补羊改为提前补羊，这是对数据中心容量的一个很好的改进。

其次，不间断电源的节能降耗和智能化管理可以实现延长使用寿命和提高可靠性的效益。最后一位专家说，一方面，整个数据中心在每个时间段的高峰和低谷负荷是不同的，另一方面，每个业务的高峰和低谷也是不同的。但是现在所有的机器都不能停下来等待这项服务，但事实上这些波峰和波谷有它们固有的规律。通过深入学习技术，一方面，我可以预测下一个小时的潜在需求，例如，我提前关闭一些设备或者如何达到节能降耗的真正目的。

你为什么要取出硬件？计算能力是技术实现的保证。在非冯·诺依曼体系结构发展之后，从数据中心或计算能力，从浮点运算到G到T到P，每个人都对未来数据中心的设计、建设和运行提出了更高的要求。五年前，数据中心由中央处理器主导。现在我们可以看到，许多图形处理器已经进入了数据中心，传统的互联网企业，如英美烟草，将会涉足图形处理器服务器。其他人工智能企业，如香港科技大学的迅飞、匡时等大型人工智能企业，主动要求租用或购买一个具有图形处理单元训练能力的数据中心，会提出整个数据中心对图形处理单元的要求或能力。事实上，GPU并不是深入学习和培训的最佳选择。这只是目前最好的解决办法。因此，随着计算能力或人工智能硬件能力的提高，未来数据中心的整体架构将继续取得进步。

数据中心给人工智能服务器带来新的发展趋势。从两个层面来看，传统服务器+人工智能，人工智能+传统服务器。传统服务器+人工智能，如联想、浪潮等传统服务器制造商，因为看到了对图形处理器等计算能力的需求，纷纷退出图形处理器服务器，无论是两卡、四卡还是八卡，并推出相关服务器。事实上，可以看出市场上已经有几十台服务器。另外，人工智能+传统服务器，每个不同的人工智能企业实际上对底层计算能力有不同的要求，所以不同的企业会根据自己的业务能力和实际业务特点寻求一些定制。例如，一方面，我们可以看到华为打算在今年3月联合宣布AIO，专门进行视频情报分析。基于意图的智能识别算法可以识别视频比较等分析能力，这实际上是对其现有业务的优化。另一方面，Avida不断强调DGXE或HGX1，一系列人工智能一体机，以满足每个人对计算能力的需求。

人工智能给数据中心带来了什么业务？我们可以看到，人工智能从底层给数据中心带来业务发展，包括计算服务平台到上层智能语音和语义服务平台，以及计算机视觉平台。这些平台都是支持产品服务或应用的底层技术。我们认为这是一种在线服务形式，类似于提供与人工智能相关的高性能计算或智能语音、语音识别、计算机视觉等技术的能力。让我们谈谈每一件作品。首先是计算服务平台，我们可能会看到更多。它主要依靠由第三方构建和运营的基础计算和存储网络基础设施来提供人工智能所需的计算能力和服务交互能力。一方面，我们可以看到GPU服务器更贵，GPU卡也更贵，我们还不能购买它们。许多初创企业，如果他们想投资这个平台，也许可以用他们自己的几百万美元购买几台服务器，它将是黄色的。因此，行业需要一些准备好使用的平台，然后对其使用进行收费，以完成培训任务。我租了一个三天的平台，可以在训练任务结束后归还。这些服务由国内云服务企业提供，包括BAT和金山云。国外也有相关的阿里、AWS等正在做相关的工作。有三种类型的GPU云服务器以虚拟机的形式提供与GPU相关的计算。还有相对较少的现场可编程门阵列云服务，行业对它们的需求仍然不多。最后，基于GPU服务器和深度学习平台，相当于传统硬件平台承载的框架，如TensorFlow和Caffe，为开发者提供了相应的深度学习平台，方便使用。

智能语音的基础应用平台——智能语音语义平台，目前在业界非常流行。您看到的智能音频，以及可以在手机上实现的语音交互应用，如迅飞输入法或高德地图等。，我会告诉你去哪里，还有智能家居，智能音频，智能空音，智能机器人，它们提供与智能语音和语义相关的在线服务。你怎么理解？所有的声音实际上都是前端的接收和输出设备，所有的语音理解相关内容都会传输到后端平台进行处理。这些平台理解或翻译或获得相应的响应，然后将它们传输到声音系统，然后做出相应的响应。声音只是前端输入和中间输出功能。一切都是在幕后完成的。它提供一系列功能，如语音识别、语音合成和声纹识别。企业已经建立了自己想要的产业链，如HKUST迅飞等公司。

计算机视觉的开放平台类似于语音识别。如果我的工厂专注于语音或视觉平台业务，我不需要购买或开发相应的底层功能。我只需要买。如果是语音，我需要购买HKUST迅飞的API或图像购买的API。我可以做好前端工作，应用程序涉及人工智能，人脸识别或图像识别或语音翻译，然后我可以自己做。这是目前可以做的一项服务，如物体检测、人脸检测、图像识别、智能黄色识别等。现在随着深度学习技术的突破，相关的应用已经非常成熟，可以达到接近人类能力的水平。你可以看到，这一行业在过去两年非常受欢迎。你为什么谈论这个？无论是智能语音还是计算机视觉开放平台，后台的底层支撑仍然是中心的计算能力。也就是说，这些平台和顶级应用的驱动因素也将推动数据中心的进步和发展。此外，高性能计算需求也将为数据中心带来更多人工智能。

最后，我想梳理一下整个计算平台和基本应用平台的现状。正如你所看到的，事实上，互联网公司是一个整体的推广策略。它们可以自下而上地提供一系列功能，如计算服务、深度学习、智能语音、语义、图像、视觉等。一方面，他们希望自己的服务平台能够建立自己的产业链。另一方面，许多互联网公司将自己的人工智能技术集成到自己的产品中，如百度的人工智能搜索、地图识别、腾讯语音、微信语音输入相关词汇等。这些能力实际上是为了帮助提高他们的产品能力。

传统的人工智能企业，人工智能企业实际上是集中在一些领域，如HKUST迅飞和西伯利亚。他们将根据自己的需要提供相应的开放平台，并为行业服务。

最后，我想简单介绍一下我院在人工智能领域的相关工作，包括政府支持、加强科研布局、促进产业发展、促进产业融合等。

2017年，我们成立了中国人工智能产业发展联盟，该联盟是在国家发展和改革委员会、科技部、工业和信息化部以及互联网和信息技术部的指导下成立的。三位副部长和几位学者出席了开幕会议。目前，该联盟约有240个成员单位，第二批成员将于5月底释放。我们分成十个工作组，包括政策法规、评估和评价等。我是评估和评价的负责人，如果您对评估和评价有任何相关要求，可以在以后联系我。

这是我们成立后举行的一系列会议。从去年10月开始，在去年的互联网大会上举办了人工智能论坛，包括李彦宏、雷军、吴文达，人工智能俗称“四大神话”。去年10月，ICOM正式批准了人工智能相关技术和应用评估实验室。评估实验室还希望通过一些前沿技术验证、公共技术服务和承载评估，建设一个国内影响力高、技术水平高、产业推广能力强、具备相关能力的实验室。为了给整个实验室提供能力建设，我们也在为实验室招募联合电源供应商。我们希望业内一系列拥有人工智能相关软硬件、算法软件等的企业能够共同参与相关工作。事实上，我们已经和小米、华为等达成了协议。我们现在正在详细沟通。如果你感兴趣，你可以共同开展相关工作。

这是整个人工智能产业发展联盟的评估体系，我对此负责。目前，整个人工智能的评价体系基本包括软硬件服务平台、智能产品应用等。已经建立。在座的所有人都会对以下两个层面的相关评估感兴趣。我们还在研究相关的评估标准和规范，包括人工智能相关芯片的一系列评估能力、技术评估方法等。如果你感兴趣，我希望你能积极参与我们的工作。

最后，非常感谢您的支持。这是我们在人工智能领域研究的结果。非常感谢！

2020-02-19 13:14:00 AWS透露，移动实验室咨询解决方案有175个人工智能业务数据客户。 昨天，AWS分享了咨询部门ML解决方案实验室人工智能业务增长的一些数据。移动解决方案实验室副总裁兼负责人李霄云在她的博客中透露，移动解决方案实验室自两年前成立以来 2020-02-17 11:28:33 大数据技术迭代优化加速计算力人工智能芯片需要解决着陆问题 人工智能产业的规模正在迅速增长。根据全球市场研究机构IHS Markit发布的数据，人工智能应用市场将从2019年的428亿美元飙升至2025年的1289亿美元。