了解集合通信与模型并行策略
了解集合通信基础概念及常见的集合通信原语；以及大模型并行策略：包括数据并行、流水并行、张量并行和专家并行。
大模型推理显存和计算量估计方法
最近做吞吐量调试涉及到输入batch_size的设置，为了把算力和显存用起来，同时不触发out of memory，需要提前估计大模型推理过程中的显存占用
昇腾AI4S图机器学习：DGL消息传递接口的PyG替换
DGL (Deep Graph Learning) 和 PyG (Pytorch Geometric) 是两个主流的图神经网络库，它们在API设计和底层实现上有一定差异，在不同场景下，研究人员会使用不同的依赖库，昇腾NPU对PyG图机器学习库的支持亲和度更高，因此有些时候需要做DGL接口的PyG替换。
OpenFold2.0 基于NPU的推理适配与测试
本教程详细介绍了 OpenFold 的环境搭建、代码部署、依赖安装、数据集准备及推理测试全流程。首先通过 Anaconda 创建 Python3.9 环境并配置相关库，接着克隆 OpenFold 代码仓库并安装必要依赖（如 PyTorch、dllogger、hhsuite 等）。随后准备 PDB 数据集与模型参数，调整脚本路径以适配运行环境。最后执行推理脚本完成测试，并针对常见报错提供了解决方案，例如更新 NumPy、SciPy 或调整 GPU 配置等，确保流程顺利运行。
昇腾AI4S图机器学习：DGL图构建接口的PyG替换
本文探讨了在图神经网络中将DGL接口替换为PyG实现的方法，重点以RFdiffusion蛋白质设计模型中的SE3Transformer为例。SE3Transformer通过SE(3)等变性提取三维几何特征，其图构建部分依赖DGL接口。文章详细介绍了两个关键函数的替换：`make_full_graph` 和 `make_topk_graph`。前者构建完全连接图，后者生成k近邻图。通过PyG的高效实现（如`knn_graph`），我们简化了图结构创建过程，并调整边特征处理逻辑以兼容不同框架，从而更好地支持昇腾NPU等硬件环境。此方法为跨库迁移提供了实用参考。
昇腾NPU上基于MindIE服务的AIME和MATH500测评方案
本文介绍了基于MindIE服务和lighteval工具对DeepSeek-R1类模型进行能力测评的方法。针对AIME 2024、AIME 2025、MATH-500和GPQA等数据集，通过在Atlas 800I A2硬件上部署MindIE服务，结合开源项目Open R1的评测方法完成测评。主要内容包括模型权重下载、MindIE服务化部署、lighteval安装与配置，以及使用openai模式进行测评的具体步骤。最终展示了AIME 2024和MATH-500的测评结果，并对比了DeepSeek官方数据。该方案适合需要准确评估带推理思维链模型性能的场景。
《大模型背后的隐形战场：异构计算调度全解析》
在大模型训练中，CPU、GPU和AI芯片各司其职：CPU擅长逻辑控制，GPU专攻并行计算，AI芯片则针对特定AI任务优化。然而，实现三者的高效协同面临诸多挑战，如任务分配、通信延迟及资源管理等问题。通过动态任务分配、通信优化与资源调整等策略，可提升训练效率。未来，随着硬件进步和算法智能化，异构计算协同调度将更加高效，并结合云计算、边缘计算等技术拓展应用范围，推动人工智能技术发展。
《揭秘Mojo：如何用Python语法外壳包裹C级速度内核》
Python虽是AI开发首选语言，但在大规模计算和AI芯片优化中存在效率短板。C语言虽高效但开发复杂度高。Mojo作为Python超集，兼容其语法并引入C级执行速度，通过编译优化、内存管理改进及硬件抽象层支持，大幅提升AI芯片性能。在神经网络训练与实时推理场景中，Mojo显著缩短时间、降低延迟，为AI开发者提供强大工具，展现广阔前景。