Paddle Inference

本库是对百度飞浆推理库C接口的封装,详细说明请参考官方文档

使用说明

  1. 编译前请先下载或编译预测库
  2. 使用时请确保paddle_inference_c的动态库及其第三方依赖库能被正常搜索到。如:

使用示例

```norun use paddleinference::config::model::Model; use paddleinference::config::setting::Cpu; use paddleinference::Predictor;

let predictor = Predictor::builder(Model::path( "模型文件路径", "模型参数文件路径", )) // 使用 CPU 识别 .cpu(Cpu { threads: Some(std::thread::availableparallelism().unwrap().get() as i32), mkldnn: None, }) // 设置缓存陌路 .setoptimizationcachedir("caches".to_string()) // 创建 Predictor .build();

let names = predictor.input_names(); println!("输入名称列表长度: {}", names.len());

// 获取和设置输入数据 let input = predictor.input(&names.get(0).unwrap()); input.reshape(&[1, 3, 100, 100]); input.copyfromf32(&[0.0; 3 * 100 * 100]);

// 执行 println!("run: {}", predictor.run());

let names = predictor.output_names(); println!("output names len: {}", names.len());

let output = predictor.output(&names.get(0).unwrap()); println!("output type: {:?}", output.data_type()); println!("output shape: {:?}", output.shape()); ```