广义优势估计(GAE)推导
强化学习中广义优势估计（GAE, Generalized Advantage Estimation） 的核心逻辑实现：
12345678910111213141516171819202122232425262728293031323334353637383940414243def compute_g
...
PPO 策略梯度损失推导
PPO（Proximal Policy Optimization）: 近端策略优化PG: Policy Gradient
推导过程
PPO 是在 PG 基础上增加了对 $r^t$ 的裁剪，限制策略更新幅度，遵循 “保守更新” 原则。
标准PPO的问题
$A^t$ < 0, 原始$r^t$(θ)
...
Qwen3-MoE-30B-A3B模型EP+FSDP2并行方案
以VeOmni训练框架为例，介绍Qwen3-MoE-30B-A3B模型并行训练方法，参考代码仓库中文档。
Qwen3-MoE-30B-A3B模型该模型核心参数为：128 个专家、隐藏层维度 2048、中间层维度 768，其 MoE 核心的专家权重张量形状固定为：
门控投影（Gate project
...
【PyTorch】dataset & dataloader对象设计
dataset定位：数据的定义 / 封装 / 预处理。
Dataset(MapDataset)
映射式数据集，位于 torch.utils.data.Dataset
数据样本与整数索引之间存在一一对应的映射关系，支持按指定索引随机访问单条样本
自定义子类必须实现两个方法：
__len__(sel
...
记录字节算法实习岗面试的一道算法题
问题描述以 Unix 风格给出一个文件的绝对路径，你需要简化它。或者换句话说，将其转换为规范路径。
在 Unix 风格的文件系统中，一个点（.）表示当前目录本身；此外，两个点 （..） 表示将目录切换到上一级（指向父目录）；两者都可以是复杂相对路径的组成部分。更多信息请参阅：Linux / Unix
...
你可以做任何类型的原子RMW操作
翻译自：https://preshing.com/20150402/you-can-do-any-kind-of-atomic-read-modify-write-operation/
略有删改
原子读取-修改-写入操作（或称为“ RMW”）比原子加载和存储更为复杂。它们使您可以从共享内存中的变
...
原子操作和非原子操作
翻译自：https://preshing.com/20130618/atomic-vs-non-atomic-operations/
略有删改
关于Web上原子操作的知识已经很多，通常集中在原子读-修改-写（RMW）操作上。但是，这些并不是原子操作的唯一种类。还有原子加载和存储，它们同样重要。在
...