Vitis 平台的第 4 层，也是最具有变革意义的一层是 Vitis AI。它集成了特定领域架构（DSA）。DSA 提供了针对AI模型的硬件实现，开发者可以使用包括 TensorFlow 和 Caffe 等业界领先框架对其进行配置与编程。Vitis AI 提供的工具链能在数分钟内完成优化、量化和编译操作，在赛灵思器件上高效地运行预先训练好的AI模型。此外，它也为从边缘到云端的部署提供了专用 API，实现业界一流的推断性能与效率。赛灵思很快还将推出另一个 DSA（Vitis Video），支持从 FFmpeg 直接进行编码并提供同样超级简单且功能极强大的端到端视频解决方案。由合作伙伴公司提供的 DSA 包括：与 GATK 集成用于基因分析的Illumina，与ElasticSearch 集成用于大数据分析的BlackLynx，以及当前我们客户正在使用的专有DSA。

O V E R V I E W

Vitis 统一软件平台包括：

• 全面的内核开发套件，可无缝构建加速的应用

• 完整的硬件加速开源库，针对 Xilinx 硬件平台进行了优化

• 插入特定领域的开发环境，可直接在熟悉的更高层次框架中进行开发

• 不断发展的硬件加速合作伙伴库和预建应用生态系统

K E Y  C O M P O N E N T

重 要 组 件

一个专门的开发环境，用于在 Xilinx 嵌入式平台、Alveo 加速卡或云端 FPGA 实例上加速 AI 推断。Vitis AI 不仅支持业界领先的深度学习框架，如 Tensorflow 和 Caffee ，而且还提供全面的 API 来修剪、量化、优化和编译训练过的网络，从而可为您部署的应用实现最高的 AI 推断性能。

性能优化的开源库，提供开箱即用的加速，对于采用 C、C++ 或 Python 编写的现有应用而言，代码修改极少，甚至不需要修改代码。按原样利用特定领域的加速库，通过修改适应您的需求，或者在您的自定义加速器中用作算法构建块。

完整的图形开发工具和命令行开发工具，其中包括 Vitis 编译器、分析器和调试器，用于构建、分析性能瓶颈问题，调试加速算法，使用 C、C++ 或 OpenCL 进行开发。在您自己的 IDE 中使用这些特性，或者使用独立的 Vitis IDE。

Xilinx 运行时 (XRT) 可促进应用代码（运行在嵌入式 ARM 或 x86 主机上）与加速器（部署在基于 PCIe 的 Xilinx 加速卡、基于 MPSoC 的嵌入式平台或 ACAP 的可重构部分上）之间的通信。它包括用户空间库和 API、内核驱动、电路板实用程序和固件。

Vitis 目标平台为 Xilinx 平台定义了基本软硬件架构及应用环境，包括外部存储接口、自定义输入输出接口和软件运行时。

• 对于本地或云的 Xilinx 加速卡，Vitis 目标平台可自动配置 PCIe 接口，这些接口可连接和管理 FPGA 加速器和 x86 应用代码之间的通信 — 无需实现任何连接细节！
  

• 对于 Xilinx 嵌入式器件，Vitis 目标平台还包括用于平台上处理器的操作系统、平台外设的引导加载程序和驱动程序，以及根文件系统。您可以为 Xilinx 评估板使用预定义 Vitis 目标平台，也可在 Vivado Design Suite 中定义自己的 Vitis 目标平台。

有了世界领先的模型压缩技术，我们可以在对精度影响极小的情况下，将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。

通过将 32 位浮点权值和激活量转换为 INT8 这样的定点，AI 量化器可在不影响预测精度的情况下，降低计算复杂度。定点网络模型需要的内存带宽更少，因此比浮点网络模型速度更快，电源效率更高。

将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务，如层融合和指令排程等，并可尽量重复使用片上内存。

性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。

该运行时提供一系列轻量级 C++ 及 Python API，其可实现便捷的应用开发。此外，它还提供高效的任务调度、内存管理和中断处理。

通用应用

• 图像分类：Googlenetv1、Resnet50、Resnet101、Resnet152 Inception v1、BN-inception、VGG16、SqueezeNet、Mobilenet、MobilenetV2

• 目标检查：MobilnetV2-SSD, SSD, YOLO v2, YOLO v3, Tiny YOLO v2, Tiny YOLO v3

• 市场细分：ENet, ESPNet

Vitis Accelerated Libraries

Vitis™ 统一软件平台包括一组广泛的、性能优化的开源库，这些库提供了即开即用的加速功能，并且对现有应用实现最小化代码更改或零更改。

• 常见的 Vitis 加速库（用于数学、统计、线性代数和 DSP）为各种应用提供了一系列核心功能。
  

• 特定领域 Vitis 加速库为视觉及图像处理、定量金融、数据库及数据分析以及数据压缩等工作负载提供了开箱即用的加速功能。

• 利用合作伙伴加速库、框架插件以及加速应用这一不断发展的生态系统，迅速启动设计，加速您的量产进程。

所有开发人员都可通过 GitHub 访问 Vitis 加速器库，而且这些库可在所有 Xilinx 平台间扩展。使用这些优化的库开发应用并在边缘、本地或云的 Xilinx 平台间进行无缝部署，无需重新实现加速应用

为了针对 Xilinx 可为应用带来的优势快速进行原型设计和评估，您可将其用作即插即用加速器，在用户应用中作为 API 直接调用，满足计算机视觉及图像处理、定量金融、数据库和数据分析等多个工作负载需求。

要为您的应用设计自定义加速器，可将 Vitis 库函数用作优化的算法构建块，对其进行修改，以满足您的特定需求，也可将其用作参考来完全设计您自己的加速器。选择您需要的灵活性！

将特定领域 Vitis 库与 Vitis AI 库或 Vitis AI 开发套件预先优化的深度学习模型相结合，不仅可加速整个应用，而且还可达到整个系统级的功能及性能目标。