Movidius访谈：Intel刚刚推出神经计算棒的部门

Intel 深度学习 神经网络

摘要

近日，Movidius（Intel新技术集团的一个部门）发布了神经计算棒：一个基于USB、运行嵌入式神经网络的开发工具包。借助该计算棒，用户可以在计算能力较低的设备上运行神经网络和计算机视觉模型。InfoQ联系了Intel新技术集团Movidius市场营销总监Gary Brown，并向他提了几个问题。

正文

近日，Movidius（Intel新技术集团的一个部门）发布了神经计算棒：一个基于USB、运行嵌入式神经网络的开发工具包。借助该计算棒，用户可以在计算能力较低的设备上运行神经网络和计算机视觉模型。InfoQ联系了Intel新技术集团Movidius市场营销总监Gary Brown，并向他提了几个问题。

InfoQ：您能介绍下Movidius神经计算棒是个什么东西并列举它的部分关键特性吗？

Gary Brown：我很兴奋我们上个月推出了新的Movidius™神经计算棒，这是首款基于USB的、超低功耗、嵌入式深度神经网络开发工具包。它本质上是一个自包含的深度学习加速器和开发工具包，让深度学习推理应用程序和人工智能应用程序可以边缘部署。它内置了Movidius Myriad™ 2视觉处理单元（VPU），用于支持深度神经网络推理。该设备运行在标准USB 3接口上，不需要额外的电源或硬件，让用户可以将基于PC的原型部署到本地各种没有连接云的设备上。

InfoQ：哪些开发人员对Movidius神经计算棒感兴趣？

Brown：我们的新开发工具包主要有两类受众：有兴趣学习机器学习的嵌入式开发人员和有机器学习及AI知识、正在寻找一个嵌入式平台用于研究的开发人员。Movidius神经计算棒可以用于各种研究和原型实例中——比如机器人视觉、自动驾驶或者智能安防摄像头开发——它们将深度神经网络（DNN）技术应用在场景分割、对象跟踪或对象分类和识别。由于内置了Myriad 2 VPU，所以它虽然外形小巧，却能提供高能效的深度神经网络推理。

InfoQ：起始页显示，开发人员需要一台运行Ubuntu的笔记本电脑。OSX或Windows用户可以使用计算棒吗？

Brown：Ubuntu Linux上运行着Neural Compute SDK，该工具用于编译、调优及验证开发人员希望在神经计算棒上运行的深度神经网络。我们还没有推出支持其他操作系统的扩展工具。神经计算棒的关键是DNN的实时运行，为了吸引更多受众，我们推出了支持X86平台及Raspberry Pi的开发工具包。

InfoQ：目前，Caffe是神经计算棒唯一支持的神经网络框架。将来会支持其他框架吗，如Tensorflow、 CNTK或Theano（它们全都支持Keras）？

Brown：目前，我们的重点是为基于流行框架Caffe的神经网络提供丰富的支持，不过，我们正在制定支持其他框架的计划。

InfoQ：神经计算棒内置了视觉处理单元（VPU）。对于希望在文本或音频数据上运行神经网络的用户而言，这意味着什么？

Brown：在自然语言处理方面无疑还有一些挑战，基于VPU的神经计算棒主要是为访问从根本上支持可视化智能应用程序的开发平台提供便利。VPU是专门针对加速机器视觉任务而设计的，这些任务包括图像处理、计算机视觉处理和深度学习。

InfoQ：我们想知道，神经计算棒是否支持容器化应用程序？它是如何做到的？它提供了Docker支持，还是有其他的方法可以将计算棒用于此类应用程序？

Brown：MvNC SDK提供了一个API框架，支持在安装Ubuntu 16.04的x86_64平台和安装Jessie的Raspberry PI平台上进行原生应用程序开发。开发人员可以使用这个框架将经过Movidius神经计算棒加速的实时深度神经网络集成到应用程序中。我鼓励开发人员看一下我们的开发者页面，看看如何使用这些API。不管总的应用程序是否是运行在容器平台上，只要平台支持USB，并且插上了Movidius神经计算棒，开发人员就可以使用计算棒实时运行DNN，为他们的应用程序提速。

InfoQ：目前支持哪些类型的网络？

Brown：目前，Movidius神经计算棒支持若干示例神经网络，包括GoogLeNet、AlexNet等。开发人员可以运行他们自己定义的网络，只要这些网络是使用Caffe框架训练的。想要详细了解支持的Caffe层，请访问https://developer.movidius.com/。

InfoQ：不久以前，Intel发布了一些产品，如RealSense（也添加到了Intel Euclid中）。有什么方法可以结合NCS和RealSense技术吗？

Brown：有，当然有。创建深度神经网络的开发人员需要深度信息，Intel RealSense技术可以合并成在Movdius神经计算棒上运行的深度神经网络的一个输入。

InfoQ：虽然NCS最近已经发布，但是我们想知道，您是否见过有人以创新的方式使用它？

Brown：我很高兴你问这个问题，因为当我们在CVPR大会上发布神经计算棒时，我们高兴地看到，有许许多多的开发人员（既有企业开发人员，也有学术研究人员）有一些在视觉智能方面使用神经网络的独特方法。例如，我们发现了可以解决机器人真空吸尘器、自主飞行的无人机、无人驾驶汽车相关问题的有趣DNN，甚至是可以在视频中颇有分寸地改变你头发颜色的应用程序，以及使用机器学习自动从视频源中生成GIF的公司。我们已经看到了许多新用户，也希望看到开发者社区出现更多创造性应用程序。

关于Gary Brown

Gary Brown是Movidius市场营销总监，这是Intel的一家公司，也是Intel新技术集团的一个部门，负责管理产品营销和战略合作伙伴。Brown之前在Dolby Laboratories、Tensilica和Cadence担任过领导职位。他的嵌入式DSP背景和他对计算机视觉技术的热情帮助他带领Intel的计算机视觉技术进入了这个机器智能的新时代。

查看英文原文：Q&A With Movidius, a Division of Intel Who Just Launched the Neural Compute Stick