如何为 FFI 创建一个包含可为空函数指针的结构？

我有一个现有的 C 程序，可以加载共享库插件。主 C 程序通过包含整数、字符串、函数指针等的 C 结构与这些插件交互。如何从 Rust 创建这样的插件？

请注意，（真正的）C 程序不能更改，API 也不能更改，这些都是固定的、现有的东西，所以这不是一个关于“如何最好地支持 Rust 中的插件”的问题，而是 Rust 如何使*.so与现有 C 程序互操作的文件。

这是 C 程序 + C 插件的简化示例：

/* gcc -g -Wall test.c -o test -ldl
   ./test ./test-api.so
 */

#include <stdio.h>
#include <stdlib.h>
#include <stdint.h>
#include <inttypes.h>
#include <dlfcn.h>

struct api {
  uint64_t i64;
  int i;
  const char *name;                /* can be NULL */
  void (*load) (void);             /* must not be NULL */
  void (*hello) (const char *str); /* can be NULL */
};

int
main (int argc, char *argv[])
{
  void *dl = dlopen (argv[1], RTLD_NOW);
  if (!dl) { fprintf (stderr, "%s: %s\n", argv[1], dlerror ()); exit (1); }
  struct api *(*get_api) (void) = dlsym (dl, "get_api");
  printf ("calling get_api ...\n");
  struct api *api = get_api ();
  printf ("api->i64 = %" PRIi64 "\n", api->i64);
  printf ("api->i = %d\n", api->i);
  if (api->name)
    printf ("api->name = %s\n", api->name);
  printf ("calling api->load ...\n");
  api->load ();
  if (api->hello) {
    printf ("calling api->hello ...\n");
    api->hello ("world");
  }
  printf ("exiting\n");
  exit (0);
}

/* gcc -g -shared -fPIC -Wall test-api.c -o test-api.so */

#include <stdio.h>
#include <stdint.h>

static void
load (void)
{
  printf ("this is the load function in the plugin\n");
}

static void
hello (const char *str)
{
  printf ("hello %s\n", str);
}

static struct api {
  uint64_t i64;
  int i;
  const char *name;
  void (*load) (void);
  void (*hello) (const char *str);
} api = {
  1042,
  42,
  "this is the plugin",
  load,
  hello,
};

struct api *
get_api (void)
{
  return &api;
}

这是我在 Rust 中编写的尝试获取插件的内容，但它无法编译：

extern crate libc;

use libc::*;
use std::ffi::*;
use std::ptr;
use std::os::raw::c_int;

#[repr(C)]
pub struct api {
    i64: uint64_t,
    i: c_int,

    name: *const c_char,

    load: extern fn (),
    hello: extern fn (), // XXX
}

extern fn hello_load () {
    println! ("hello this is the load method");
}

#[no_mangle]
pub extern fn get_api () -> *const api {
    println! ("hello from the plugin");

    let api = Box::new (api {
        i64: 4201,
        i: 24,
        name: CString::new("hello").unwrap().into_raw(), // XXX memory leak?
        load: hello_load,
        hello: std::ptr::null_mut,
    });

    return Box::into_raw(api); // XXX memory leak?
}

这是使用编译的Cargo.toml包含：

[package]
name = "embed"
version = "0.1.0"

[dependencies]
libc = "0.2"

[lib]
name = "embed"
crate-type = ["cdylib"]

错误是：

error[E0308]: mismatched types
  --> src/lib.rs:32:16
   |
32 |         hello: std::ptr::null_mut,
   |                ^^^^^^^^^^^^^^^^^^ expected "C" fn, found "Rust" fn
   |
   = note: expected type `extern "C" fn()`
              found type `fn() -> *mut _ {std::ptr::null_mut::<_>}`

error: aborting due to previous error

我没有尝试加载模块，但是当我之前使用真实程序尝试此操作时，字段全部错误，表明更根本的问题是错误的。

tl;dr Use Option表示可为空的函数指针和None为空。

错误消息令人困惑，首先是因为std::ptr::null_mut不是一个指针；这是一个通用函数returns一个指针，而你还没有调用它。因此，Rust 看到您传递的函数具有错误的签名和调用约定，并对此进行抱怨。

但是一旦你解决了这个问题，你就会得到这个错误：

error[E0308]: mismatched types
  --> src/lib.rs:29:16
   |
29 |         hello: std::ptr::null_mut(),
   |                ^^^^^^^^^^^^^^^^^^^^ expected fn pointer, found *-ptr
   |
   = note: expected type `extern "C" fn()`
              found type `*mut _`

函数指针和对象指针不兼容（C 中也是如此），因此不能在它们之间进行转换。null_mut返回一个对象指针，因此您需要找到另一种方法来创建空函数指针。

函数指针（类型值fn(...) -> _）还有另一个有趣的属性：与原始指针（*const _ and *mut _)，它们不能为空。你不需要一个unsafe阻止通过指针调用函数，因此创建空函数指针是不安全的，就像创建空引用一样。

如何使某些东西可以为空？把它包起来Option:

#[repr(C)]
pub struct api {
    // ...
    load: Option<extern fn ()>,
    hello: Option<extern fn ()>, // assuming hello can also be null
}

并填充它Some(function) or None:

let api = Box::new (api {
    // ...
    load: Some(hello_load),
    hello: None,
});

使用通常不是一个好主意enums，包括Option, in a repr(C)struct，因为 C 没有enum等价的，所以你不知道你会在另一边得到什么。但在这种情况下Option<T> where T是不可为空的东西，None由空值表示，所以应该没问题。

指某东西的用途Option表示 FFI 的可空函数指针记录在不安全代码指南:

Rust 函数指针类型不支持 null 值——就像引用一样，期望您使用Option创建可为空的指针。Option<fn(Args...) -> Ret>将具有与完全相同的 ABIfn(Args...) -> Ret，但还允许空指针值。