Huawei openPangu 2.0 open source: MoE 505B, контекст 512K, полный разбор Ascend

Пять мифов, которые ломают ваш deploy до первого curl

Richard Yu анонсировал openPangu 2.0 на HDC 2026 (12 июня 2026, Dongguan Songshan Lake); Flash ушёл в open source 30 июня. Большинство обсуждений застряло на «ещё один китайский LLM» — ниже пункты, которые напрямую бьют по закупке и инфраструктуре.

1. 01

   Open source = только weights: индустриальный минимум — weights + inference. openPangu 2.0 тащит pretrain/posttrain код и Ascend training ops — для MoE такого масштаба это редкость.

2. 02

   Игнор «no NVIDIA»: DeepSeek, Qwen, Kimi, Llama учились на NVIDIA. openPangu 2.0 — end-to-end на Ascend 910B, первый frontier-scale open model без NVIDIA в training path.

3. 03

   512K как маркeting fluff: DeepSeek V4 Pro топит code/reasoning, но 512K context — killer feature openPangu; это ~8 длинных романов в одном prompt.

4. 04

   Путаница Flash vs Pro: Flash (92B/6B active) уже live; Pro (505B/18B active) weights — июль 2026; pre/posttrain code — H2 2026.

5. 05

   Модель без host-плана: Ascend = torch_npu, HarmonyOS edge = Embedded. Agent со Xcode, Claude Code, OpenClaw — split stack, см. multi-model routing.

MoE-архитектура, Ascend training, dev stack

Architecture hacks

• mHC (Multi-Head Combinatorial): smarter expert routing, меньше MoE load imbalance
• Muon optimizer: second-order momentum от Microsoft — stable large-scale train
• ModAttn (Modular Attention): modular attention под 512K long context
• DSA+SWA (Flash only): ultra-sparse attn; 6B active дергает 92B knowledge base, compute ~ dense 6B

Hardware numbers (официальный pitch)

openPangu 2.0 — первый frontier LLM full-scale без NVIDIA hardware, только Ascend 910B NPU, zero A100/H100 в loop.

• Single-card throughput: ~2× vs mainstream OSS на Ascend
• Super-node train efficiency: ~+30 %
• 512K sequence train: ~+50 % throughput
• Train-infer consistency: >99 % (MoE pain point)
• Inference latency: ~1.2× лучше peers
• Embedded edge: 30B on-device, +50 % speed, −20 % RAM, Kirin offline
• Flash-Int8: W4A8, −40 % memory, <10 % accuracy drop

Software stack

• CANN (CUDA-like) + torch_npu; import torch_npu → Ascend backend
• Cloud: Huawei Cloud ModelArts API
• OSS: GitCode Ascend Tribe self-host
• Edge: HarmonyOS native; HarmonyOS 7 Agent engine

Runbook на 6 шагов: ModelArts API + GitCode self-host

Hardware cheat sheet

6 steps to prod

1. 01

   Pick path: no HW → ModelArts API (Huawei Cloud → AI Gallery → openPangu 2.0 → subscribe Flash/Pro); есть Ascend cluster → GitCode.

2. 02

   Clone repos: gitcode.com/org/ascend-tribe — openPangu-2.0-Flash, openPangu-2.0-Infer, openPangu-2.0-Op.

3. 03

   CANN + torch_npu: Ascend drivers + CANN; в PyTorch проект добавить import torch_npu.

4. 04

   Flash single-card infer: inference script на 910B, --context_length 512000 (downscale по VRAM).

5. 05

   Quant or distributed: tight VRAM → openPangu-2.0-Flash-Int8; Pro → distributed_inference.py (post-July).

6. 06

   Finetune (opt): LoRA finetune.py --method lora --lora_rank 16; second pretrain после H2 code drop.

ModelArts API (curl)

curl -X POST "https://modelarts.${REGION}.myhuaweicloud.com/v1/infers/openpangu-2-flash/chat/completions" \
  -H "Content-Type: application/json" \
  -H "X-Auth-Token: ${TOKEN}" \
  -d '{
    "model": "openpangu-2.0-flash",
    "messages": [{"role": "user", "content": "Кратко представьтесь."}],
    "max_tokens": 1024,
    "temperature": 0.7
  }'

Flash single-card infer (bash)

python inference.py \
  --model_path ./openPangu-Flash \
  --device npu:0 \
  --context_length 512000 \
  --precision bf16

Hard numbers для цитирования

• Scale: Pro 505B/18B, Flash 92B/6B, оба 512K
• Ascend: single-card 2×; 512K train +50 %
• Train-infer: MoE consistency >99 %
• Int8: memory −40 %, loss <10 %
• HarmonyOS Agent: framework 2.0 success rate >90 %
• 512K analogy: 8 fat novels или monorepo целиком в одном prompt

Частые вопросы