5.1 概述
SOPHON SDK是算能科技基于自主研发的深度学习处理器定制的深度学习SDK,涵盖了神经网络推理阶段所需的模型优化、高效支持能力,为深度学习应用开发和部署提供易用、高效的全栈式解决方案。
SOPHON SDK包含tpu-mlir、libsophon、sophon-meida等基础工具包和sophon-demo、sophon-sail、sophon-stream等高级工具包。在SM9开发者套件中,已经预装了libsophon和sophon-media的运行环境。其中,libsophon提供了tpu驱动、bmlib(设备管理)、运行时环境(库文件、工具等);sophon-media主要基于FFMPEG、OPENCV等开源框架,适配底层硬件进行加速。
表6-1 SDK目录结构
文件夹名 | 说明 |
---|---|
sophon-img | SoC模式安装包等 |
sophon-media | 支持sophon设备硬件加速的多媒体库 |
tpu-mlir | TPU编译器工具链 |
tpu-perf | 模型性能和精度验证工具包 |
sophon-stream | 基于pipeline的高性能推理框架 |
sophon-demo | 针对单模型或单场景的综合例程 |
sophon-sail | 对底层接口进行C++/Python API封装的接口库 |
isp-tools | ISP各个模块的参数调节 |
doc | 各个模块的文档资料 |