5.1 概述

SOPHON SDK是算能科技基于自主研发的深度学习处理器定制的深度学习SDK,涵盖了神经网络推理阶段所需的模型优化、高效支持能力,为深度学习应用开发和部署提供易用、高效的全栈式解决方案。

SOPHON SDK包含tpu-mlir、libsophon、sophon-meida等基础工具包和sophon-demo、sophon-sail、sophon-stream等高级工具包。在SM9开发者套件中,已经预装了libsophon和sophon-media的运行环境。其中,libsophon提供了tpu驱动、bmlib(设备管理)、运行时环境(库文件、工具等);sophon-media主要基于FFMPEG、OPENCV等开源框架,适配底层硬件进行加速。

表6-1 SDK目录结构

文件夹名说明
sophon-imgSoC模式安装包等
sophon-media支持sophon设备硬件加速的多媒体库
tpu-mlirTPU编译器工具链
tpu-perf模型性能和精度验证工具包
sophon-stream基于pipeline的高性能推理框架
sophon-demo针对单模型或单场景的综合例程
sophon-sail对底层接口进行C++/Python API封装的接口库
isp-toolsISP各个模块的参数调节
doc各个模块的文档资料