下载安装Linux预测库

C++预测库

版本说明 预测库(2.3.1版本)
manylinux_cpu_avx_mkl_gcc8.2 paddle_inference.tgz
manylinux_cpu_avx_mkl_gcc5.4 paddle_inference.tgz
manylinux_cpu_avx_openblas_gcc8.2 paddle_inference.tgz
manylinux_cpu_avx_openblas_gcc5.4 paddle_inference.tgz
manylinux_cpu_noavx_openblas_gcc8.2 paddle_inference.tgz
manylinux_cpu_noavx_openblas_gcc5.4 paddle_inference.tgz
manylinux_cuda10.1_cudnn7.6_avx_mkl_trt6_gcc8.2 paddle_inference.tgz
manylinux_cuda10.1_cudnn7.6_avx_mkl_trt6_gcc5.4 paddle_inference.tgz
manylinux_cuda10.2_cudnn7.6_avx_mkl_trt6_gcc5.4 paddle_inference.tgz
manylinux_cuda10.2_cudnn8.1_avx_mkl_trt7_gcc8.2 paddle_inference.tgz
manylinux_cuda10.2_cudnn8.1_avx_mkl_trt7_gcc5.4 paddle_inference.tgz
manylinux_cuda11.1_cudnn8.1_avx_mkl_trt7_gcc8.2 paddle_inference.tgz
manylinux_cuda11.1_cudnn8.1_avx_mkl_trt7_gcc5.4 paddle_inference.tgz
manylinux_cuda11.2_cudnn8.2_avx_mkl_trt8_gcc8.2 paddle_inference.tgz
manylinux_cuda11.2_cudnn8.2_avx_mkl_trt8_gcc5.4 paddle_inference.tgz
manylinux_cuda11.6_cudnn8.4_avx_mkl_trt8_gcc8.2 paddle_inference.tgz
Jetpack4.5(4.4): nv-jetson-cuda10.2-cudnn8.0-trt7(all) paddle_inference.tgz
Jetpack4.5(4.4): nv-jetson-cuda10.2-cudnn8.0-trt7(nano) paddle_inference.tgz
Jetpack4.5(4.4): nv-jetson-cuda10.2-cudnn8.0-trt7(tx2) paddle_inference.tgz
Jetpack4.5(4.4): nv-jetson-cuda10.2-cudnn8.0-trt7(xavier) paddle_inference.tgz
Jetpack4.6: nv-jetson-cuda10.2-cudnn8.2-trt8.0(all) paddle_inference.tgz
Jetpack4.6: nv-jetson-cuda10.2-cudnn8.2-trt8.0(nano) paddle_inference.tgz
Jetpack4.6: nv-jetson-cuda10.2-cudnn8.2-trt8.0(tx2) paddle_inference.tgz
Jetpack4.6: nv-jetson-cuda10.2-cudnn8.2-trt8.0(xavier) paddle_inference.tgz
Jetpack4.6.1: nv-jetson-cuda10.2-cudnn8.2-trt8.2(all) paddle_inference.tgz
Jetpack4.6.1: nv-jetson-cuda10.2-cudnn8.2-trt8.2(nano) paddle_inference.tgz
Jetpack4.6.1: nv-jetson-cuda10.2-cudnn8.2-trt8.2(tx2) paddle_inference.tgz
Jetpack4.6.1: nv-jetson-cuda10.2-cudnn8.2-trt8.2(xavier) paddle_inference.tgz

C预测库

版本说明 预测库(2.3.1版本)
manylinux_cpu_avx_mkl_gcc8.2 paddle_inference_c.tgz
manylinux_cpu_avx_mkl_gcc5.4 paddle_inference_c.tgz
manylinux_cpu_avx_openblas_gcc8.2 paddle_inference_c.tgz
manylinux_cpu_avx_openblas_gcc5.4 paddle_inference_c.tgz
manylinux_cpu_noavx_openblas_gcc8.2 paddle_inference_c.tgz
manylinux_cpu_noavx_openblas_gcc5.4 paddle_inference_c.tgz
manylinux_cuda10.1_cudnn7.6_avx_mkl_trt6_gcc8.2 paddle_inference_c.tgz
manylinux_cuda10.1_cudnn7.6_avx_mkl_trt6_gcc5.4 paddle_inference_c.tgz
manylinux_cuda10.2_cudnn7.6_avx_mkl_trt6_gcc5.4 paddle_inference_c.tgz
manylinux_cuda10.2_cudnn8.1_avx_mkl_trt7_gcc8.2 paddle_inference_c.tgz
manylinux_cuda10.2_cudnn8.1_avx_mkl_trt7_gcc5.4 paddle_inference_c.tgz
manylinux_cuda11.1_cudnn8.1_avx_mkl_trt7_gcc8.2 paddle_inference_c.tgz
manylinux_cuda11.1_cudnn8.1_avx_mkl_trt7_gcc5.4 paddle_inference_c.tgz
manylinux_cuda11.2_cudnn8.2_avx_mkl_trt8_gcc8.2 paddle_inference_c.tgz
manylinux_cuda11.2_cudnn8.2_avx_mkl_trt8_gcc5.4 paddle_inference_c.tgz
manylinux_cuda11.6_cudnn8.4_avx_mkl_trt8_gcc8.2 paddle_inference_c.tgz

Python预测库

版本说明 python3.6 python3.7 python3.8 python3.9 python3.10
linux-cuda10.1-cudnn7.6-trt6-gcc8.2 paddlepaddle-cp36m.whl paddlepaddle-cp37m.whl paddlepaddle-cp38.whl paddlepaddle-cp39.whl
linux-cuda10.2-cudnn8.1-trt7-gcc8.2 paddlepaddle-cp36m.whl paddlepaddle-cp37m.whl paddlepaddle-cp38.whl paddlepaddle-cp39.whl paddlepaddle-cp10.whl
linux-cuda11.1-cudnn8.1-trt7-gcc8.2 paddlepaddle-cp36m.whl paddlepaddle-cp37m.whl paddlepaddle-cp38.whl paddlepaddle-cp39.whl paddlepaddle-cp10.whl
linux-cuda11.2-cudnn8.2-trt8-gcc8.2 paddlepaddle-cp36m.whl paddlepaddle-cp37m.whl paddlepaddle-cp38.whl paddlepaddle-cp39.whl paddlepaddle-cp10.whl
linux-cuda11.6-cudnn8.4-trt8-gcc8.2 paddlepaddle-cp36m.whl paddlepaddle-cp37m.whl paddlepaddle-cp38.whl paddlepaddle-cp39.whl paddlepaddle-cp10.whl
Jetpack4.5(4.4): nv_jetson-cuda10.2-trt7-all paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.5(4.4): nv_jetson-cuda10.2-trt7-nano paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.5(4.4): nv_jetson-cuda10.2-trt7-tx2 paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.5(4.4): nv_jetson-cuda10.2-trt7-xavier paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.6:nv_jetson-cuda10.2-trt8.0-all paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.6:nv_jetson-cuda10.2-trt8.0-nano paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.6:nv_jetson-cuda10.2-trt8.0-tx2 paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.6:nv_jetson-cuda10.2-trt8.0-xavier paddlepaddle_gpu-2.3.1-cp36-cp36m-linux_aarch64.whl
Jetpack4.6.1:nv_jetson-cuda10.2-trt8.2-all paddlepaddle_gpu-2.3.1-cp37-cp37m-linux_aarch64.whl
Jetpack4.6.1:nv_jetson-cuda10.2-trt8.2-nano paddlepaddle_gpu-2.3.1-cp37-cp37m-linux_aarch64.whl
Jetpack4.6.1:nv_jetson-cuda10.2-trt8.2-tx2 paddlepaddle_gpu-2.3.1-cp37-cp37m-linux_aarch64.whl
Jetpack4.6.1:nv_jetson-cuda10.2-trt8.2-xavier paddlepaddle_gpu-2.3.1-cp37-cp37m-linux_aarch64.whl

下载安装Windows预测库

请确认您的VS版本与下载链接对应的版本完全一致,目前暂不保证在其它VS版本的可用性

环境硬件配置:

操作系统 win10 家庭版本
CPU I7-8700K
内存 16G
硬盘 1T hdd + 256G ssd
显卡 GTX1080 8G

C++预测库

版本说明 预测库(2.3.1版本) 编译器 cuDNN CUDA
cpu_avx_mkl paddle_inference.zip MSVC 2017 - -
cpu_avx_openblas paddle_inference.zip MSVC 2017 - -
avx_mkl_cuda10.1_cudnn7.6.5_avx_mkl_no_trt paddle_inference.zip MSVC 2017 7.6 10.1
avx_mkl_cuda10.1_cudnn7.6.5_avx_mkl-trt6.0.1.5 paddle_inference.zip MSVC 2017 7.6 10.1
avx_mkl_cuda10.2_cudnn7.6.5_avx_mkl-trt7.0.0.11 paddle_inference.zip MSVC 2017 7.6 10.2
avx_mkl_cuda11.0_cudnn8.0_avx_mkl-trt7.2.1.6 paddle_inference.zip MSVC 2017 8.0 11.0
avx_mkl_cuda11.2_cudnn8.2_avx_mkl-trt8.0.1.6 paddle_inference.zip MSVC 2017 8.2 11.2
avx_mkl_cuda11.6_cudnn8.4_avx_mkl-trt8.4.1.5 paddle_inference.zip MSVC 2017 8.4 11.6

C预测库

版本说明 预测库(2.3.1版本) 编译器 cuDNN CUDA
cpu_avx_mkl paddle_inference_c.zip MSVC 2017 - -
cpu_avx_openblas paddle_inference_c.zip MSVC 2017 - -
cuda10.1_cudnn7.6_avx_mkl_no_trt paddle_inference_c.zip MSVC 2017 7.6 10.1
cuda10.1_cudnn7.6_avx_mkl_trt6.0.1.5 paddle_inference_c.zip MSVC 2017 7.6 10.1
cuda10.2_cudnn7.6_avx_mkl_trt7.0.0.11 paddle_inference_c.zip MSVC 2017 7.6 10.2
cuda11.0_cudnn8.0_avx_mkl_trt7.2.1.6 paddle_inference_c.zip MSVC 2017 8.0 11.0
cuda11.2_cudnn8.2_avx_mkl_trt8.0.1.6 paddle_inference_c.zip MSVC 2017 8.2 11.2
cuda11.6_cudnn8.4_avx_mkl-trt8.4.1.5 paddle_inference_c.zip MSVC 2017 8.4 11.6

python预测

版本说明 python3.8
cuda10.1_cudnn7.6.5_avx_mkl-trt6.0.1.5 paddlepaddle-cp38m.whl
cuda10.2_cudnn7.6.5_avx_mkl-trt7.0.0.11 paddlepaddle-cp38m.whl
cuda11.0_cudnn8.0_avx_mkl-trt7.2.1.6 paddlepaddle-cp38m.whl
cuda11.2_cudnn8.2_avx_mkl-trt8.0.1.6 paddlepaddle-cp38m.whl
cuda11.6_cudnn8.0_avx_mkl-trt7.2.1.6 paddlepaddle-cp38m.whl

下载安装Mac预测库

C++预测库

版本说明 预测库(2.3.1版本)
cpu_avx_openblas paddle_inference.tgz

C预测库

版本说明 预测库(2.3.1版)
cpu_avx_openblas paddle_inference_c.tgz