Google Coral硬件的边缘计算与本地AI

AI使机器能够执行过去仅属于人类领域的各种任务。例如：是否需要在工厂生产线上进行质量控制？设置AI驱动的摄像头以发现产品缺陷。如何分析医疗数据？机器学习可以从扫描中识别出潜在的肿瘤并将其标记给医生。

但是，只有这样的应用程序既快速又安全，它们才有用。在工厂中使用AI摄像头花费几分钟来处理图像的设备并不多，而且如果将其发送到云端进行分析，没有患者愿意冒着暴露其医疗数据的风险。

这些是Google尝试通过一项名为Coral的计划来解决的问题。

“传统上，AI设备的数据被发送到大型计算实例，这些实例位于集中的数据中心，机器学习模型可以快速运行，” Coral产品经理Vikram Tank通过电子邮件向The Verge解释。 “ Coral是Google的硬件和软件组件平台，可帮助你使用本地AI构建设备-在边缘设备上为神经网络提供硬件加速。”

你可能以前从未听说过Coral（去年10月才从Beta版“毕业”），但它是快速发展的AI领域的一部分。市场分析师预测，到2020年，将售出7.5亿多块边缘AI芯片和计算机，到2024年将增长到15亿块。尽管其中大多数将安装在诸如电话之类的消费类设备中，但很大一部分是面向行业中的企业客户的：如汽车和医疗保健。

为了满足客户的需求，Coral提供了两种主要类型的产品：用于制作新创意原型的加速器和开发板，以及旨在为智能相机和传感器等生产设备的AI大脑提供动力的模块。这两种设备，硬件的核心都是Google的Edge TPU，这是一种经过优化以运行轻量级机器学习算法的ASIC芯片-与Google的云服务器中使用的水冷TPU相似。

Tank说，虽然单个的工程师可以使用其硬件来创建有趣的项目（例如，Coral提供了有关如何构建AI棉花糖分拣机和智能鸟喂食器的指南），但长期的重点是企业客户汽车界和医疗保健等行业。

作为Coral定位的解决方案的一个示例，Tank提供了一种自动驾驶汽车的场景，该场景使用机器视觉来识别街道上的物体。

他说：“以65英里/小时的速度行驶的汽车将在100毫秒内横穿近10英尺，因此，例如由缓慢的移动连接引起的任何“处理延迟”都会“增加关键用例的风险。”Coral可以在设备上进行分析，而不必等待缓慢的连接来确定是停车牌还是前面的路灯亮起来。这要安全得多。

Tank说，在改善隐私方面也存在类似的好处。他说：“考虑要使用图像识别对超声图像进行实时分析的医疗设备制造商。”将这些图像发送到云端会为黑客定位提供潜在的薄弱环节，但是对设备上的图像进行分析可以使患者和医生“确信设备上处理的数据不会超出他们的控制范围。”

Google的Edge TPU，一种针对AI优化的微型处理芯片，是大多数Coral产品的核心。

Tank表示，尽管Coral的目标市场是企业界，但该项目实际上源于Google的“ AIY”DIY机器学习套件。 AIY套件于2017年推出，由Raspberry Pi计算机提供支持，可让任何人构建自己的智能扬声器和智能相机，并且在STEM和maker市场取得了巨大成功。

Tank表示，AIY团队很快注意到，虽然有些客户只是想按照说明进行操作并制造玩具，但其他客户却想通过硬件以制作自己的设备原型。创建Coral就是为了迎合这些客户。

Google的问题在于，有数十家公司的业务与Coral相似。这些公司的业务范围从诸如西雅图的Xnor这样的初创公司开始，这些公司使AI摄像头的效率足以依靠太阳能来运行，再到像英特尔这样的强大公司，英特尔在2017年推出了首批企业USB加速器之一，并于去年12月以20亿美元的价格收购了该公司。芯片制造商Habana Labs改善其边缘AI产品（以及其他功能）。

鉴于竞争对手众多，Coral团队表示，通过将其硬件与Google的AI服务生态系统紧密集成，可以与众不同。

包括芯片，云训练，开发工具等在内的这一系列产品，长期以来一直是Google人工智能系列的主要力量。就Coral而言，这里有一个专门为其硬件编译的AI模型库，以及Google Cloud上的AI服务，这些服务直接与各个Coral模块（例如其环境传感器）集成。

实际上，Coral与Google的AI生态系统紧密集成，以Edge TPU为动力的硬件只能与Google的机器学习框架TensorFlow配合使用，Verge谈及AI边缘市场的竞争对手，这可能是一个限制因素。

“边缘产品专门针对其平台进行处理，而我们的产品则支持市场上所有主要的AI框架和模型，” AI边缘公司Kneron的发言人告诉The Verge。 （Kneron说，它的评估没有“否定性”，并且Google进入市场是受欢迎的，因为它“验证并推动了该领域的创新”。）

但是，Coral目前到底在做什么业务还无法说。Google肯定不会像Cloud AI服务那样大力推动Coral，而且该公司暂时尚未公开任何销售数据和目标。不过，一位熟悉此事的消息人士确实告诉The Verge，Coral的大部分订单都是针对单个设备（例如，AI加速器和开发板），而只有少数客户在企业中订购10,000个设备。

对于Google而言，Coral的吸引力可能不一定是收入，而只是了解有关AI在重要领域如何应用的更多信息。在当今的实用机器学习世界中，所有道路无可避免地涌向了边缘人工智能。

支持Google Edge TPU边缘人工智能计算芯片的AI软硬件

Gravitylink推出的Model Play与Tiorb AIX(钛灵AIX)也能完美支持Edge TPU。钛灵AIX是一款集计算机视觉与智能语音交互两大核心功能为一体的人工智能硬件，搭载了专业AI边缘计算芯片与多种传感器。Model Play面向全球开发者的AI模型资源平台，内置多样化AI模型，兼容钛灵AIX，支持边缘人工智能计算芯片Google Edge TPU，加速专业级开发。

此外，Model Play提供完整易用的迁移学习模型训练工具及丰富模型实例，可与钛灵AIX结合，实现各类人工智能应用的快速开发。基于Google开源神经网络架构及算法，构建自主迁移学习功能，用户无需写代码，通过选择图片、定义模型和类别名称即可完成AI模型训练，实现人工智能的易学易开发。