在这里我创建了一个生产者 - 客户程序,父进程(生产者)创建了许多子进程(使用者)然后父进程读取文件并将数据传递给子进程。
但是,这是一个表演……
我认为,要将数据(特别是大型numpy数组)传递给子进程 mpi4py 可以非常高效,因为我可以直接在缓冲区对象上工作。
可以找到使用mpi4py生成进程并进行通信的示例(也使用trio,但这是另一个故事) 这里 。
五个月前我在你的地方。我环顾了好几次,但我的结论是使用Python进行多处理,这完全是你描述的问题:
我通过学习C ++解决了这个问题,但它可能不是你想读的......