边缘AI时代已来，设计边缘人工智能SoC需要注意些什么？

不知不觉中，AI已经无感地进入了我们的日常生活当中，且大家已经开始习以为常。无论是用记录下生活美好的瞬间，还是享受智能门锁给人们带来的方便，或是在超市使用无人值守的称重台给商品称重，抑或是工作中使用的远程视频会议系统，背后都有AI技术的一份功劳。AI技术的三大核心是算力、算法和大数据。随着半导体技术的进步和处理器相关企业的努力，芯片的性能越来越高，算力问题基本得到了解决；随着深度学习技术的不断进化，算法也在不断向前演进；再加上存储技术的进步，能够被记录的数据越来越多，也越来越快。看起来AI发展的核心问题已经都被解决了，但其实还有个容易被忽略的问题，正逐渐变得关键起来，那就是接口问题。接口在AI发展中的重要性越来越大

海量的数据存储在存储器中，高算力的处理器需要把数据从存储器中提取出来后才能调用算法来进行处理，处理完之后，还需要存储到存储器当中。那么，如何将数据从存储器当中提取到处理器缓存呢？答案是接口。对AI芯片来说，选择一个合适的接口，将会决定AI芯片支持AI应用和系统的容易程度和效率。特别是对一些边缘AI系统来说。因为边缘AI对于处理速度的要求并不是那么高，反而是对方便性要求更高。比如我们经常可以见到的智能网络摄像头，它里面的视觉处理SoC需要与高清广角摄像头传感器和麦克风阵列相连接。视觉处理SoC经过训练后，可以检测人的面部和躯干，因此，摄像头能够通过自动平移、倾斜和变焦等方式，始终对焦会议室内的参与者，根据检测到的演讲者所在位置，将麦克风阵列对准该方向，以拾取演讲者的声音。该应用场景中的摄像头可以通过USB 3.x连接大量的视频会议主机。其实智能摄像头所采用的就是边缘人工智能SoC芯片，该SoC芯片除了可以用于智能摄像头，也可以用于实时汽车辅助驾驶应用，不过如果用于汽车的话，视觉处理SoC就需要使用PCIe接口与一个强大的主机连接在一起。那么有没有可能让边缘人工智能SoC芯片同时拥有PCIe接口的高速性能，及USB接口的便捷性呢？有人就设计出来了这样的产品，并且芯片的面积并没有因此而增加。边缘人工智能SoC芯片设计案例

很明显，同时具备PCIe和USB4接口的边缘人工智能SoC可简化边缘AI系统集成，支持多种应用场景，可帮助迅速拓展新的目标市场。图1显示了一个典型的边缘人工智能系统和SoC芯片的总体框图。

图1：边缘人工智能系统集成了PCIe和USB4接口，提高了应用的灵活性（来源：新思科技）

与市面上大多数人工智能SoC芯片一样，图1显示了通用的一种架构，但由于PCIe和USB4接口的集成，可支持更多的应用场景。该边缘人工智能SoC芯片的接口设计，可以在传统PCIe模式、带有隧道PCIe的USB4模式、传统USB 3.x流媒体或传输模式，以及USB 2.0传输模式下运行。如何实现多接口边缘人工智能SoC芯片

想要设计出灵活的边缘人工智能SoC芯片接口，关键在于使用了新思科技的DesignWare USB4 PHY IP。该IP支持USB4（包括隧道PCIe）和传统USB。对于边缘人工智能SoC，DesignWare USB4 PHY IP可以通过升级的方式，获得额外支持传统PCIe的功能。边缘人工智能加速器支持的操作模式如图2所示。

图2：边缘人工智能加速器所需的操作模式（数据来源：新思科技）据新思科技透露，DesignWare USB4 IP的最高传输速度为40 Gbps，是USB 3.2的最高数据传输率的两倍，并可向下兼容USB 3.x和USB v2.0系统。DesignWare USB4 IP支持多个高速接口协议，包括USB4、DisplayPort 1.4a TX、PCIe和Thunderbolt 3，通过一根USB Type-C数据线即可实现高效的数据传输、高清视频传输，还可以提供电源。据悉，DesignWare USB4 PHY IP已在先进的5nm FinFET工艺中实现了测试芯片的流片。而且该IP不仅适用于7/6/5/4nm等先进工艺节点，也适用于12nm等低成本工艺节点进行芯片开发。结语

边缘人工智能的应用场景更加细分，为了适应不同的应用场景，边缘人工智能SoC既需要支持高速高性能的接口标准，也需要支持更加便捷性的接口标准，而USB是设备最为普遍采用的一种接口，支持USB接口可以让设备的部署更加简单和便捷。借助DesignWare IP，设计人员可以创建出支持PCIe和USB4协议的边缘人工智能加速系统，与单独的PCIe或单独的传统USB设计相比，在边缘人工智能加速器设备中，采用DesignWare USB4 PHY接口IP可提供更高的灵活性，并增加边缘人工智能加速器的功能和接口选项。因此，客户可以更加快速地拓宽目标市场，并加快新型边缘人工智能应用的上市速度。