Z-Image-Turbo for onw-Image (FP8, Intel NPU / Panther Lake)
日本語 | English
Tongyi-MAI/Z-Image-Turbo を、Intel NPU で動かすアプリ onw-Image 用に変換したモデルです(Panther Lake 向け FP8 版)。単体では使えません。 onw-Image を入れると、このモデルも自動でダウンロードされます。
irm https://huggingface.co/ryugyosoft/onw-image/resolve/main/install.ps1 | iex
内容
| フォルダ・ファイル | 中身 |
|---|---|
dit2/ |
DiT(画像生成本体、6B)。OpenVINO IR、FP8(e4m3、重み・活性化とも)。1 層 1 グラフ(30 層+refiner 4 層) |
dit2_vec.npz |
層ごとの正規化用ベクトル(ホスト側で使用) |
te_seg/ |
テキストエンコーダー(Qwen3-4B の 35 層)。INT8 重み、5 層ずつ 7 グラフ |
vae/ |
VAE デコーダー(FLUX VAE)、fp16 |
host/ |
ホスト側で計算する小さな部分(埋め込み、時刻埋め込み、変調、最終層など) |
tokenizer.json |
トークナイザー |
- 対象:Panther Lake(Core Ultra シリーズ 3、NPU 5010 以降)、Windows 11。FP8 を NPU がそのまま計算できるのは NPU 5000 以降です
- 初回起動時に NPU 向けのコンパイル(約 40 分)が走り、結果はこのフォルダの
npu_blobs2/に保存されます - 1024×1024、9 ステップで 1 枚約 76 秒(2 枚目以降。テキストエンコーダー・DiT・VAE の合計)
変換について
- 重みは出力チャネルごとの FP8(e4m3)、活性化も FP8。画像トークンは静的なテンソル単位、プロンプトのトークンはトークンごとの尺度
- FP8 は INT8 より精度が高く、SmoothQuant などの調整なしで fp32 の元モデルに近い画になります (同じノイズからの比較で、ステップごとの誤差 19% / 8% / 3%:1・5・9 ステップ目)
- アテンションのマスクは q・k の追加次元に埋め込み(NPU でマスク付きアテンションが遅く不正確になるのを回避)
ライセンス
元のモデルと同じ Apache License 2.0 です。元モデル:Tongyi-MAI/Z-Image-Turbo(テキストエンコーダーは Qwen3-4B、 VAE は FLUX VAE を含みます)。