自动导向车
工业机器人
服务机器人
特种机器人
自动化系统
零部件对于多 GPU 计算，TF-Replicator 依赖于"图内复制"模式，其中每个设备的计算都在同一个 TensorFlow 图中复制。设备之间的通信是通过连接设备相应子图中的节点来实现的。在TF-Replicator中实现这一点具有挑战性，因为通信可能发生在数据流图中的任何点。因此，计算的构建顺序至关重要。
我们的第一个想法是在单独的Python线程中同时构建每个设备的子图。当遇到通信基元时，线程会同步，主线程会插入所需的跨设备计算。之后，每个线程将继续构建其设备的计算。然而，在我们考虑这种方法的时候，TensorFlow的图构建API不是线程安全的，这使得在不同线程中同时构建子图变得非常困难。相反，我们使用了图形重写在构建完所有设备的子图后插入通信。构建子图时，占位符入到需要通信的位置。然后，我们跨设备收集所有匹配的占位符，并用适当的跨设备计算替换它们。
粤公网安备 44010602004352号