Frontend OSS APIs

• FE-OSS APIs Overview
• Native Sparse Attention (NSA)
• Fused RMSNorm + SiLU
• Attention (FE-OSS)
  • SDPA Backward (SM100, D=256)
• GEMM Fusions
  • Discrete Grouped GEMM + dSwiGLU (SM100)
  • Discrete Grouped GEMM + SwiGLU (SM100)
  • GEMM + Amax (SM100)
  • GEMM + SwiGLU (SM100)
  • Grouped GEMM + dGLU (SM100)
  • Grouped GEMM + dSwiGLU (SM100)
  • Grouped GEMM + GLU (SM100)
  • Grouped GEMM + Quant (SM100)
  • Grouped GEMM + Quant – Unified (SM100)
  • Grouped GEMM + SwiGLU (SM100)