ImportError: xxx.so: failed to map segment from shared object - uWSGI部署 pytorch和tensorflow 报错 （已解决）

        最近将本地写好的基于Flask的模型调用后端（含torch和tensorflow代码）部署到服务器（Ubuntu 20.04）上遇到了困扰了我两天的问题。

        按理说，深度学习研究者开发可视化系统，并进行部署的时候应该很容易遇到这种问题。但是我搜索了两天，和询问了好几页的GPT也没看见一个系统的解决方案（不知道是不是太简单了QWQ）。

        先看报错：

from torch._C import *  # noqa: F403
ImportError: libtorch_cpu.so: failed to map segment from shared object

报错大概意思是映射共享库文件失败。

虽然和库与python的版本及其依赖有关，但最后排查主要问题还是出在uwsgi对进程的内存分配不够

解决方法：

1.

安装与当前python版本对应的torch和tensorflow，同时确保这些库的依赖版本不冲突。如tensorflow 2.4.0对应 numpy 1.19.5

2.

正确安装python的uwsgi，如果安装不成功请先执行：

$ sudo apt-get install libpython3.x-dev 

其中x为python版本，然后执行

pip install uwsgi

3.

重点配置uwsgi.ini以下参数(加粗）—— 按个人项目情况，但内存相关的配置尽量大些。

[uwsgi]
# uwsgi 启动时，所使用的IP何端口
module = xxx

#http = :5050

socket = 0.0.0.0:5050#端口保持一致

buffer-size=32768000  #uwsgi进程的缓冲区大小
limit-as = 2560MB  #uwsgi进程的地址空间限制
single-interpreter = true#单解释器

plugin=python3#指定python
pythonpath=/home/ubuntu/.local/lib/python3.8#指定python解释器路径

master = true 
#daemonize =/path
chdir=/path/to/your/project
processes = 4
threads = 4
max-requests = 1000
harakiri=50
py-autoreload=1#热重载

memory-report = true

 

解释：

如注释，因为共享库文件占用内存太大，所以uwsgi需要对每个需要共享库文件的进程多分配空间。所以前两项与内存大小有关的稍微大一些（以G为单位）

plugin和pythonpath主要是为了防止启动uwsgi的python不是自己期待的。