ryugyosoft/Z-Image-Turbo-onw-image-fp8

Source: 🤗text-to-imageapache-2.011 GBother✓ 124 checksumsupdated 11d ago
or submit a torrent

Z-Image-Turbo for onw-Image (FP8, Intel NPU / Panther Lake)

日本語 | English

Tongyi-MAI/Z-Image-Turbo を、Intel NPU で動かすアプリ onw-Image 用に変換したモデルです(Panther Lake 向け FP8 版)。単体では使えません。 onw-Image を入れると、このモデルも自動でダウンロードされます。

irm https://huggingface.co/ryugyosoft/onw-image/resolve/main/install.ps1 | iex

内容

フォルダ・ファイル 中身
dit2/ DiT(画像生成本体、6B)。OpenVINO IR、FP8(e4m3、重み・活性化とも)。1 層 1 グラフ(30 層+refiner 4 層)
dit2_vec.npz 層ごとの正規化用ベクトル(ホスト側で使用)
te_seg/ テキストエンコーダー(Qwen3-4B の 35 層)。INT8 重み、5 層ずつ 7 グラフ
vae/ VAE デコーダー(FLUX VAE)、fp16
host/ ホスト側で計算する小さな部分(埋め込み、時刻埋め込み、変調、最終層など)
tokenizer.json トークナイザー
  • 対象:Panther Lake(Core Ultra シリーズ 3、NPU 5010 以降)、Windows 11。FP8 を NPU がそのまま計算できるのは NPU 5000 以降です
  • 初回起動時に NPU 向けのコンパイル(約 40 分)が走り、結果はこのフォルダの npu_blobs2/ に保存されます
  • 1024×1024、9 ステップで 1 枚約 76 秒(2 枚目以降。テキストエンコーダー・DiT・VAE の合計)

変換について

  • 重みは出力チャネルごとの FP8(e4m3)、活性化も FP8。画像トークンは静的なテンソル単位、プロンプトのトークンはトークンごとの尺度
  • FP8 は INT8 より精度が高く、SmoothQuant などの調整なしで fp32 の元モデルに近い画になります (同じノイズからの比較で、ステップごとの誤差 19% / 8% / 3%:1・5・9 ステップ目)
  • アテンションのマスクは q・k の追加次元に埋め込み(NPU でマスク付きアテンションが遅く不正確になるのを回避)

ライセンス

元のモデルと同じ Apache License 2.0 です。元モデル:Tongyi-MAI/Z-Image-Turbo(テキストエンコーダーは Qwen3-4B、 VAE は FLUX VAE を含みます)。