AidLite SDK
简介
AidLite SDK是阿加犀推出的的AI执行框架，旨在充分调度端侧芯片的各计算单元 (CPU、GPU、NPU) 实现AI模型的加速推理。
AidlLite 跨平台统一了 AI 推理中间件，针对不同 AI 框架和不同 AI 芯片的调用进行了抽象，形成统一 API，可实现模型推理实现的解耦合。
- 兼容主流开源 AI 框架。
- 兼容主流 AI 芯片厂商专属框架 (SNPE、RKNN 等) ，支持厂商专属硬件(NPU)调用。
其特性如下图所示：
AidLite 高度统一的 API 抽象，兼容了不同框架模型及 AI 芯片的调用，让开发人员只需进行一次开发，即可任意更换不同格式的模型或在不同厂商 AI 芯片实现迁移。大大减少了开发者的学习成本，平台迁移难度和成本。摆脱了对特定 AI 框架或者 AI 芯片的绑定，技术选型更灵活，产品落地更快速。
AidLite详情查看：AidLite SDK | APLUX Doc Center
AidStream SDK
简介
AidStream SDK 是一个流媒体数据处理工具包，适用于构建基于 AI 的视频分析应用和服务，并能充分利用硬件加速技术 (如：GPU, VPU, NPU) 实现端到端应用加速。其目标是为开发者提供针对具体预定义流数据处理 (streaming-processing) 的简单接口封装，消除底层技术 (如：硬件加速技术) 的复杂性。
AidStream 基于管道 (pipeline) 的概念，开发者可通过创建预定义的流数据处理 pipeline，将自定义处理任务 (如：AI 模型推理) 及其它内建的任务 (如：视频编解码，视频推拉流，视频流存储，等) 进行组合，实现完整的数据处理链。
在一条完整的 pipeline 中，数据从 输入流 进入，开发者可以通过 AidStream 的 API 获取对应的 RGB 数据，并在处理后输入到 输出流 中。例如，可以在输入端和输出端之间通过插入自定义回调函数获取 RGB 数据及其它数据，在回调函数中完成数据预处理、AI 分析及后处理后，再返回至 pipeline，继续 pipeline 的后续输出过程。
AidStream 工作流如下图所示：
AidStream详情查看：AidStream SDK | APLUX Doc Center
AidCV
简介
AidCV 是阿加犀推出的针对图像处理加速的组件，同时提供了能够在 AidLux OS 的 Web 桌面中与 OpenCV 一致的开发体验。
在 AidLux OS 的 Web 桌面中，由于其是基于网页渲染的界面，无法直接使用 OpenCV 中相关的渲染功能。开发者可以通过 AidCV 实现 OpenCV 相关渲染工作 (且与 OpenCV 接口一致)，这也使得使用 OpenCV 的代码可以无缝运行在 AidLux 中。
此外 AidCV 还提供了在 MIPI 相机，AI 两个方面的扩展使用。
AidCV详情查看：AidCV | APLUX Doc Center
AidGen
简介
AidGen 是基于 AidLite 构建的专门针对生成式 Transformer 模型的推理框架，旨在充分调用硬件的各计算单元（CPU、GPU、NPU）实现大模型在端侧的推理加速。
AidGen 是SDK级别的开发套件，提供原子级别的大模型推理接口，适用于开发者将大模型推理集成到自己的应用中。
AidGen 支持多种类型的生成式 AI 模型:
- 语言类大模型 -> AidLLM 推理
- 多模态大模型 -> AidMLM 推理
其结构如下图所示：
