C++ onnxruntime 识别的和python不一样
开发者是一个经验丰富的人，他们在编程方面有着丰富的经验和知识。在这篇文章中，我将向一个刚入行的小白开发者介绍如何实现“C++ onnxruntime 识别的和python不一样”。我们将按照以下步骤进行操作：
| 步骤 | 代码 | 说明 |
|---|---|---|
| 1 | #include <onnxruntime/core/providers/cpu/cpu_provider_factory.h> | 引入 C++ onnxruntime 的头文件 |
| 2 | Ort::Env env(ORT_LOGGING_LEVEL_WARNING, "ONNXRuntime"); | 创建一个环境，设置日志级别为警告 |
| 3 | Ort::SessionOptions session_options; | 创建一个会话选项 |
| 4 | session_options.SetIntraOpNumThreads(1); | 设置会话选项中的线程数为1 |
| 5 | session_options.SetGraphOptimizationLevel(GraphOptimizationLevel::ORT_ENABLE_ALL); | 设置会话选项中的优化级别为ORT_ENABLE_ALL |
| 6 | std::string model_path = "model.onnx"; | 定义模型文件路径 |
| 7 | Ort::Session session(env, model_path.c_str(), session_options); | 创建一个会话，并加载模型 |
| 8 | Ort::AllocatorWithDefaultOptions allocator; | 创建一个默认分配器 |
| 9 | std::vector<int64_t> input_shape = {1, 3, 224, 224}; | 定义输入张量的形状 |
| 10 | std::vector<float> input_data(input_shape[0] * input_shape[1] * input_shape[2] * input_shape[3]); | 创建一个输入张量的数据 |
| 11 | Ort::MemoryInfo memory_info = Ort::MemoryInfo::CreateCpu(OrtDeviceAllocator, OrtMemTypeDefault); | 创建一个内存信息，使用 CPU 分配器 |
| 12 | Ort::Value input_tensor = Ort::Value::CreateTensor<float>(memory_info, input_data.data(), input_data.size(), input_shape.data(), input_shape.size()); | 创建一个输入张量 |
| 13 | const char* input_names[] = {"input"}; | 定义输入张量的名称 |
| 14 | const char* output_names[] = {"output"}; | 定义输出张量的名称 |
| 15 | std::vector<const char*> input_names_vec(input_names, input_names + 1); | 创建一个输入张量名称的向量 |
| 16 | std::vector<const char*> output_names_vec(output_names, output_names + 1); | 创建一个输出张量名称的向量 |
| 17 | std::vectorOrt::Value input_tensors_vec = {input_tensor}; | 创建一个输入张量的向量 |
| 18 | std::vectorOrt::Value output_tensors_vec = session.Run(Ort::RunOptions{nullptr}, input_names_vec.data(), input_tensors_vec.data(), input_tensors_vec.size(), output_names_vec.data(), output_names_vec.size()); | 运行会话，并获取输出张量 |
| 19 | Ort::Value& output_tensor = output_tensors_vec[0]; | 获取输出张量 |
| 20 | float* output_data = output_tensor.GetTensorMutableData<float>(); | 获取输出张量的数据 |
以上代码展示了如何使用 C++ onnxruntime 进行模型的推理，其中包括加载模型、设置会话选项、创建输入张量、运行会话并获取输出张量等步骤。
请注意，这只是一个简单的示例代码，实际应用中可能需要进行更多的配置和处理。同时，代码中的模型路径、输入张量形状、输入数据等需要根据实际情况进行修改。
希望这篇文章对你有所帮助！
