华为科大创新研讨会——超算应用与复杂网络拓扑优化

超算应用与复杂网络拓扑优化

超算应用与 MPI 通信特征

目前超算应用主要都是 MPI 并行程序

MPI 函数的局域性

计算对象本身决定了数据交换的局域性。

一些并行程序，在并行开始后分配好任务，计算过程中不需要交换信息，仅需要在最后交换，而类似并行矩阵运算则在计算中也需要交换信息。

网络拓扑优化的一些想法

目标：减少数据传输时从源到目的节点的路径长度（超算中主要是跳数决定）

思路：

  • 节点间不经过交换机直接连接：
    • 配合使用 MPI 新特性，MPI_neighbor，强化与友邻节点之间的
  • 添加 fat tree 叶子节点的直接通路

后一篇

MIN VAL UGAL PDAL PDAL-Preserve 等等路由算法？策略？

domain-specific 呜呜