Deeplearning4j在Scala中共享线程之间的计算图

作者: 冷月如霜·胡狼
发布时间: 2024-06-11 07:21:26 (1月前)
转自：

4 条回复

0#
回复此人
v-star*위위 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <OL> <LI> 不需要为图像的每个裁剪实例化新的actor。只需保留一个演员池，要求主节点为他们提供更多图像，以便在完成上一个图像后立即进行分类。我还建议检查它是否实际上比普通的并行集合（类似于 <code> images.par.map(model.classify) </code> 可能已经完成了这项工作;它将自己处理一个线程池）。 </LI> <LI> 无需为每个actor实例化新模型。分类不会改变模型，因此您可以简单地在所有参与者之间共享相同的模型。对于模型对象的引用，这就像每个actor的8字节开销一样，因此可以忽略不计。 </LI> </醇> </DIV>

编辑
1#
回复此人
只怕再见是故人 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 也许你可以看看monix库，它有异步任务，批处理，容错原语等。 </p> </DIV>

编辑
2#
回复此人
࿏自ོ༾由ོ༽人͙⃡⌇ | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 将来，请注意：您可以使用parallelinference开箱即用的多线程服务。 <a href =“https://github.com/deeplearning4j/dl4j-examples/blob/master/dl4j-examples/src/main/java/org/deeplearning4j/examples/inference/ParallelInferenceExample.java"rel =”nofollow noreferrer “> https://github.com/deeplearning4j/dl4j-examples/blob/master/dl4j-examples/src/main/java/org/deeplearning4j/examples/inference/ParallelInferenceExample.java </A> </p> <P> 上述答案的一个问题是它没有考虑到模型在进行激活时具有内部状态。 ParallelInference还允许批量推断和顺序推断。例如，当您使用gpus时，这很重要。我们也允许在这里进行多线程推理。 </p> </DIV>

编辑

登录后才能参与评论