rwkv-ops 0.7.4

RWKV operators for multiple backends (PyTorch, JAX, Keras)

English Document

RWKV OPS 项目

由于 RWKV 将持续迭代，核心算子会随之更新。
本仓专门维护「算子」本身，不维护 layer 与 model；尽可能提供各框架的 GPU 算子。

当前支持

算子类型	框架支持
GPU 算子	PyTorch、JAX
原生算子	PyTorch、JAX、TensorFlow、NumPy

未来若 Keras 生态扩展，可能支持 MLX、OpenVINO。
注意：本库依赖 keras。

---

安装

pip install rwkv_ops

当然pip包对于编译的算子pip uninstal没法删干净，所有可以试着从源码安装

git clone https://github.com/pass-lin/rwkv_ops.git
cd rwkv_ops
bash install.sh

---

环境变量

变量名	含义	取值	默认值	优先级
KERAS_BACKEND	Keras 后端	jax / torch / tensorflow / numpy	—	低
KERNEL_BACKEND	算子后端	jax / torch / tensorflow / numpy	torch	高
KERNEL_TYPE	实现类型	triton / cuda / native	cuda	—

若 KERNEL_BACKEND 有值，直接采用；若为空，则用 KERAS_BACKEND；两者皆空则默认 torch。

---

mhcop 使用方法

mHC (Multi-Head Control) 是 DeepSeek 实现的一种取代 ResNet 的新残差交互机制。它将传统的单流残差扩展为多流并行，并引入动态聚合与分发。

本仓提供了基于 Triton 实现的 Keras 算子。由于这是作者的一个 Triton 练手项目，性能优化尚未达到极限：

• JAX 端：XLA 的融合能力极其恐怖，导致 Triton 的提速并不明显（Native 耗时约 ResNet 的 1.5x，Triton 约 1.27x，DeepSeek 原版约 1.06x）。但在 显存 方面，Triton 算子通过手写 VJP 强制重计算，在 128x1024x4x768 规模下可比 JAX Native 节省 3~4GB 显存。注意这里说的是模型整体。
• Torch 端：由于 torch.compile 对此类复杂逻辑的融合效率远不如 XLA，Triton 算子表现出巨大的优势（Pre-Op 提速可达 8 倍，Post-Op 约 3 倍）。建议 Torch 用户默认开启。 注意这里说的是单算子，我懒得测torch的模型整体情况了。

快速开始

from rwkv_ops import mhc_pre_op, mhc_post_op

# 也可以显式获取指定后端（默认为 triton）
# mhc_pre_op, mhc_post_op = get_mhc_kernel("triton")

# 在每一层核心逻辑（Attention/FFN）前后的调用示例：
# 1. 预处理：多流聚合为单流
x_layer_in, h_post, h_res = mhc_pre_op(
    x, alpha_pre, alpha_post, alpha_res, phi, 
    bias_pre, bias_post, bias_res, n=4
)

# 2. 核心层计算
x_layer_out = attention(x_layer_in)

# 3. 后处理：分发回多流并进行流混合
x_next = mhc_post_op(x_layer_out, x, h_post, h_res)

---

函数接口说明

mhc_pre_op

将多流特征聚合为核心层输入，并生成后续所需的投影系数。

参数	形状	说明
x	(B, T, n, C)	多流输入特征
alpha_pre/post/res	(1,)	聚合、分发、残差三个分支的缩放标量系数
phi	(nC, n(n+2))	动态投影矩阵
bias_pre/post/res	(M,)	各分支对应的偏置项
n	int	扩展流的数量（Head 数量）
num_iters	int	Sinkhorn-Knopp 迭代次数（默认 20）

返回值	形状	说明
x_layer_in	(B, T, C)	聚合后的单流特征，喂给 Attention/FFN
h_post_raw	(B, T, n)	分发权重（未激活），用于 Post-Op
H_res	(B, T, n, n)	双随机残差混合矩阵，用于 Post-Op

---

mhc_post_op

将核心层输出通过门控权重分发回多流，并利用混合矩阵更新流状态。

参数	形状	说明
layer_out	(B, T, C)	核心层（Attention/FFN）的输出
x_expanded	(B, T, n, C)	Pre-Op 之前的多流状态（残差路径数据）
h_post_raw	(B, T, n)	来自 Pre-Op 的分发权重
H_res	(B, T, n, n)	来自 Pre-Op 的残差混合矩阵

返回值	形状	说明
x_next	(B, T, n, C)	更新后的多流特征，作为下一层的输入

---

C必须能被128整除

mhcop 实现状态

Framework	cuda	triton	native
PyTorch	❌	✅	✅
JAX	❌	✅	✅
TensorFlow	❌	❌	✅
NumPy	❌	❌	✅

实现备注：

1. Torch 用户建议必开：在 A100 上，mhc_post_op 相比 torch.compile 有约 3 倍提速，mhc_pre_op 约 8 倍。
2. JAX 用户按需选择：XLA 的原生性能很强，如果追求纯推理吞吐量，建议使用native模式的mhc_pre_op搭配triton的mhc_post_op。因为单算子测试中，mhc_post_op 相比 torch.compile 有约 1.1 倍提速，mhc_pre_op 约 2 倍，但是XLA可以在整个图上做更深度的融合。但 Triton 版非常省显存，在 BERT-like 或 GPT-like 深度模型中，所以我们训练建议使用完全的triton实现。
3. 算子一致性：JAX 和 Torch 共享同一套 Triton 逻辑，性能差异源于各后端对外部算子的调度开销不同（XLA 打包能力强，Torch 相对较弱）。

---

rwkv7op 使用方法

from rwkv_ops import generalized_delta_rule,generalized_delta_rule_inference  # 或 from rwkv_ops import rwkv7_op，完全等价
#generalized_delta_rule_inference的入口和这个接口一致
#但是generalized_delta_rule_inference是没有梯度只支持inference的
def generalized_delta_rule(
    r,
    w,
    k,
    v,
    a,
    b,
    initial_state=None,
    output_final_state: bool = True,
    head_first: bool = False,
    mask=None,
):
    """
    分块 Delta Rule 注意力接口。

    Args:
        q:  [B, T, H, K]
        k:  [B, T, H, K]
        v:  [B, T, H, V]
        a:  [B, T, H, K]
        b:  [B, T, H, K]
        gk: [B, T, H, K]  # decay term in log space!
        mask:[B,T] 决定这个状态是否被更新,1更新0不更新.注意开启这个你的训练速度会慢一倍。
                   因此我更推荐v*= mask a*=mask ops.where(mask,w,-1e9)的方式来做mask
        initial_state: 初始状态 [N, H, K, V]，N 为序列数
        output_final_state: 是否返回最终状态
        head_first: 是否 head-first 格式，不支持变长

    Returns:
        o:           输出 [B, T, H, V] 或 [B, H, T, V]
        final_state: 最终状态 [N, H, K, V] 或 None
    """

generalized_delta_rule_inference和generalized_delta_rule的区别是前者没有梯度。因为不需要存储激活值，所以可以节省一部分显存。

cuda-kernel 特殊用法

• torch-cuda和jax-cuda kernel 下 head_size 也是一个 kernel 参数，默认为 64。
• 若 head_size ≠ 64，请使用：

from rwkv_ops import get_generalized_delta_rule

rwkv7_op, rwkv7_op_inference, USE_TRITON_KERNEL = get_generalized_delta_rule(
    your_head_size, KERNEL_TYPE="cuda"
)

• USE_TRITON_KERNEL 为常量，标记是否使用 chunkwise 算子。
• 两者 padding 处理逻辑不同：

if padding_mask is not None:
    w += (1 - padding_mask) * -1e9

• 对于上面的代码，基于循环的算子可以针对left pading和right pading都能成功处理。
• 而如果用的是chunkwise算子，建议统一left padding，如果是cuda或者原生，则都left right都能正确处理

rwkv7op 实现状态

Framework	cuda	triton	native
PyTorch	✅	❌	✅
JAX	✅	❌	✅
TensorFlow	❌	❌	✅
NumPy	❌	❌	✅

---

1. native 为原生算子，无 chunkwise，速度慢且显存高。
2. cuda 为基于 CUDA 的原生算子，速度很快，并且kernel内部使用fp32实现，所以精度也很高。缺点就是长序列的时候比较吃亏跑不满。

rwkv7_op_rnn 使用方法

背景

这是RWKV7 OP的特殊情况，就是我们只考虑长度=1的情况。专门用于推理的decode阶段的加速

使用方法

from rwkv_ops import rwkv7_op_rnn
def rwkv7_op_rnn(
        r: jnp.ndarray,
        w: jnp.ndarray,
        k: jnp.ndarray,
        v: jnp.ndarray,
        a: jnp.ndarray,
        b: jnp.ndarray,
        initial_state: Optional[jnp.ndarray] = None,
        output_final_state: bool = True,
        head_first: bool = False,
    )
            """
        单步广义 delta 规则（仅前向）
        参数:
            r,w,k,v,a,b: 输入张量，形状必须为 (B, 1, H, K) 或 (B, H, 1, K)
            initial_state: 可选 (B, H, K, K) 初始状态，None 则零初始化
            output_final_state: 是否同时返回最后状态
            head_first: 是否将 head 维提前
        返回:
            out: (B, 1, H, K)  与输入 dtype 一致
            last_state: (B, H, K, K) 当 output_final_state=True
        """

rwkv7_op_rnn 实现状态

Framework	cuda	triton	native
PyTorch	✅	❌	✅
JAX	✅	❌	✅
TensorFlow	❌	❌	✅
NumPy	❌	❌	✅

1. native实现我们直接复用了rwkv7_op的native实现
2. 这个算子没有梯度

rwkv6op 使用方法

PyTorch 使用注意事项

• 安装依赖：keras、ninja、完整的 CUDA 工具包。
• 若使用 VS Code + 虚拟环境调试，请务必在终端手动激活虚拟环境，再运行代码，否则 ninja 可能无法工作。
• 虽然 PyTorch 在「虚拟环境中的 CUDA 版本」与「全局 CUDA 版本」不一致时仍可正常运行，但强烈建议保持一致。
• PyTorch 限制：同一程序内只能实例化 一个 RWKV6_OP 对象；算子线程安全（无状态），可在多处调用。

JAX 使用注意事项

• 安装依赖：keras、gcc、pybind11、完整的 CUDA 工具包。
• 即使通过虚拟环境为 JAX 安装 CUDA，也必须在系统级安装完整 CUDA；两者版本需一致，以保证 JAX 并行编译速度。
• JAX 编译依赖 /usr/local/cuda 软链接，如不存在请手动创建：

  sudo ln -sf /usr/local/cuda-12.4 /usr/local/cuda
  

• 确保 nvcc -V 正常输出，且 which nvcc 指向正确版本。
• JAX 限制：同一程序内只能实例化 一个 RWKV6_OP 对象；算子线程安全（无状态），可在多处调用。
• JAX ≥ 0.6.0 不再使用 CUDA 算子，默认使用原生算子；推荐 0.4.34。

TensorFlow 使用注意事项

• 仅提供基于原生 API 的 RWKV6 算子，仅用于推理，效率较低。

---

使用方法

需要注意的是，和rwkv7写成函数的形式不一样，RWKV6的op是一个类，需要实例化。

from rwkv_ops import RWKV6_OP

operator = RWKV6_OP(
    head_size=64,               # 头大小，不确定时填 64
    max_sequence_length=4096,   # 训练最大序列长度；推理不受限
    ops_loop=False              # 可选：序列长度=1 时是否用上层 API 替代 CUDA
)

调用

y, y_state = operator(
    r, k, v, w, u,
    with_state=False,   # 是否使用自定义初始状态 / 输出结束状态
    init_state=None,    # 初始状态 [n_state, num_heads, head_size, head_size]
    state_map=None      # int32 一维数组，长度=batch_size，定义 init_state 映射
)

参数	形状	说明
r, k, v, w	(batch_size, seq_len, hidden_size)	—
u	(num_heads, head_size) 或 (hidden_size,)	—
init_state	(n_state, num_heads, head_size, head_size)	n_state=1 时所有样本共用；n_state=batch_size 时一一对应
state_map	(batch_size,)	指定每个样本用到的 init_state 索引

返回值	形状	说明
y	(batch_size, seq_len, hidden_size)	输出
y_state	(batch_size, num_heads, head_size, head_size) 或 None	结束状态

---

分布式小贴士

• 算子本身无分布式支持；PyTorch 可直接用多线程分布式。
• JAX 需通过 shard_map 包装（示例）：

import os
os.environ['KERAS_BACKEND'] = 'jax'

import jax, jax.numpy as jnp
from jax.experimental.shard_map import shard_map
from jax.sharding import Mesh, PartitionSpec as P
from functools import partial
from rwkv_ops import RWKV6_OP

batch_size, seq_length = 24, 512
head_size, num_heads = 64, 32
hidden_size = head_size * num_heads

mesh = Mesh(jax.devices('gpu'), axis_names=('device_axis',))
device_ns = NamedSharding(mesh, P('device_axis'))

operator = RWKV6_OP(head_size=head_size, max_sequence_length=seq_length)

@partial(shard_map,
         mesh=mesh,
         in_specs=(P('device_axis'),) * 5,
         out_specs=(P('device_axis'), P('device_axis')),
         check_rep=False)
def call_kernel(r, k, v, w, u):
    # 去掉最外 device 维度
    r, k, v, w, u = map(jnp.squeeze, (r, k, v, w, u))
    y, ys = operator(r, k, v, w, u, with_state=True)
    return jnp.expand_dims(y, 0), jnp.expand_dims(ys, 0)

# 构造输入并放置到对应设备
keys = jax.random.split(jax.random.PRNGKey(0), 5)
inputs = [jax.random.normal(k, (mesh.size, batch_size, seq_length, hidden_size)) for k in keys]
inputs_r, inputs_k, inputs_v, inputs_w, inputs_u = map(
    lambda x: jax.device_put(x, device_ns), inputs)
inputs_u = inputs_u[:, :, 0]  # (devices, hidden_size)

# 可选：jax.jit(call_kernel, ...) 加速
outputs_y, y_state = call_kernel(inputs_r, inputs_k, inputs_v, inputs_w, inputs_u)

print(outputs_y.shape, outputs_y.sharding)
print(y_state.shape, y_state.sharding)

---

rwkv6op 实现状态

Framework	cuda	triton	native
PyTorch	✅	❌	✅
JAX	⚠️	❌	✅
TensorFlow	❌	❌	✅
NumPy	❌	❌	✅

⚠️ JAX 的 CUDA 实现仅适用于 < 0.6.0，推荐 0.4.34。