如何将 cv::MAT 转换为 NHCW 格式？

在User Guide.html中，tensorRT的输入/输出需要使用NCHW格式。
什么是 NCHW 格式？
如何将 cv::MAT 转换为 NCHW 格式？

我使用 TensorRT 运行推理，如下代码所示。
没有任何错误。但是，这不是正确的输出结果。

int batchSize = 1;
int size_of_single_input = 256 * 256 * 3 * sizeof(float);
int size_of_single_output = 100 * 1 * 1 * sizeof(float); 

IBuilder* builder = createInferBuilder(gLogger);

INetworkDefinition* network = builder->createNetwork();

CaffeParser parser;
auto blob_name_to_tensor = parser.parse(“deploy.prototxt”,
                                        "sample.caffemodel",
                                        *network,
                                        DataType::kFLOAT);

network->markOutput(*blob_name_to_tensor->find("prob"));

builder->setMaxBatchSize(1);
builder->setMaxWorkspaceSize(1 << 30); 
ICudaEngine* engine = builder->buildCudaEngine(*network);

IExecutionContext *context = engine->createExecutionContext();

int inputIndex = engine->getBindingIndex(INPUT_LAYER_NAME),
int outputIndex = engine->getBindingIndex(OUTPUT_LAYER_NAME);

cv::Mat input;
input = imread("./sample.jpg");
cvtColor(input, input, CV_BGR2RGB);
cv::resize(input, input, cv::Size(256, 256));

float output[OUTPUTSIZE];

void* buffers = malloc(engine->getNbBindings() * sizeof(void*));
cudaMalloc(&buffers[inputIndex], batchSize * size_of_single_input);
cudaMalloc(&buffers[outputIndex], batchSize * size_of_single_output);

cudaStream_t stream;
cudaStreamCreate(&stream);

cudaMemcpyAsync(buffers[inputIndex], (float *)input, 
                batchSize * size_of_single_input, 
                cudaMemcpyHostToDevice, stream);

context.enqueue(batchSize, buffers, stream, nullptr);


cudaMemcpyAsync(output, buffers[outputIndex], 
                batchSize * size_of_single_output, 
                cudaMemcpyDeviceToHost, stream));

cudaStreamSynchronize(stream);

NCHW：对于 3 通道图像（例如 BGR），首先存储 B 通道的像素，然后是 G 通道，最后是 R 通道。

NHWC：对于每个像素，其 3 种颜色按 BGR 顺序存储在一起。

TensorRT 要求您的图像数据采用 NCHW 顺序。但 OpenCV 是按照 NHWC 顺序读取的。您可以编写一个简单的函数来将数据从 NHWC 读取到缓冲区，并按 NCHW 顺序存储它们。将此缓冲区复制到设备内存并传递给 TensorRT。

您可以在以下位置找到此操作的示例samples/sampleFasterRCNN/sampleFasterRCNN.cppTensorRT 安装中的文件。它读取同样采用 NHWC 顺序的 PPM 文件，然后将其转换为 NCHW 顺序并减去平均值，这两个步骤都是一步完成的。您可以修改它以适合您的目的。