MongoDB保存与读取Numpy与Pandas格式的数据到一个数据格里

对于Numpy格式的数据：

• 保存时使用：Binary(pickle.dumps(array, protocol=2))，其中array就是ndarry格式的数组
• 加载时使用：pickle.loads(result['numpy'])

对于Pandas格式的数据：

• 保存时使用：json.dumps(dataframe.to_dict('records'))
• 加载时使用：pd.DataFrame(json.loads(result['dataframe']))

示例代码

import pymongo
import numpy as np
import pandas as pd
import json
import pickle
from bson.binary import Binary

# 连接数据库
mongo_conn = pymongo.MongoClient(host='localhost', port=27017)
db = mongo_conn.get_database("test")  # 指定数据库
coll = db.get_collection("people")  # 获得集合

# 构造数据
array = np.random.random(size=(5, 10))  # 要保存的numpy格式数据
dataframe = pd.DataFrame(data=np.random.random(size=(10, 20)))  # 要保存的pandas dataframe格式数据
config_dict = {
    'a': True,
    'b': False,
    'c': 3,
    'd': ["a", "b", 3],
}
# 开始保存
coll.insert_one({  # 插入
    '_id': '测试',
    'dataframe': json.dumps(dataframe.to_dict('records')),
    "numpy": Binary(pickle.dumps(array, protocol=2)),
    "config_dict": config_dict,
})
# 复原回去
result = coll.find_one({"_id": "测试"})
recover_dataframe = pd.DataFrame(json.loads(result['dataframe']))
recover_array = pickle.loads(result['numpy'])
recover_config_dict = result['config_dict']