Z-Image-Turbo for onw-Image (INT8, Intel NPU / Lunar Lake)
日本語 | English
Tongyi-MAI/Z-Image-Turbo を、Intel NPU で動かすアプリ onw-Image 用に変換したモデルです。単体では使えません。 onw-Image を入れると、このモデルも自動でダウンロードされます。
curl -fsSL https://huggingface.co/ryugyosoft/onw-image/resolve/main/install.sh | bash
内容
| フォルダ・ファイル | 中身 |
|---|---|
dit2/ |
DiT(画像生成本体、6B)。OpenVINO IR、INT8(W8A8)。6 層ずつ 5 グラフ+プロンプト側 refiner 1 グラフ |
dit2_vec.npz |
層ごとの正規化・量子化用ベクトル(ホスト側で使用) |
te_seg/ |
テキストエンコーダー(Qwen3-4B の 35 層)。INT8 重み、5 層ずつ 7 グラフ |
vae/ |
VAE デコーダー(FLUX VAE)、fp16 |
host/ |
ホスト側で計算する小さな部分(埋め込み、時刻埋め込み、変調、最終層など) |
tokenizer.json |
トークナイザー |
- 対象:Lunar Lake(Core Ultra 200V シリーズ、NPU 4000)、メモリ 16 GB、Ubuntu
- 初回起動時に NPU 向けのコンパイル(約 25 分)が走り、結果はこのフォルダの
npu_blobs2/に保存されます - 768×768、9 ステップで 1 枚約 70 秒(テキストエンコーダー・DiT・VAE の合計、onw-Image 0.1)
変換について
- 重みは出力チャネルごとの INT8、活性化は INT8(FakeQuantize)。画像トークンは静的なテンソル単位、 プロンプトのトークンはトークンごとの 2 段 INT8
- SmoothQuant(α=0.5)と、FFN の出力側(w2)の層ごとの α・クリップ調整。校正は 4 種類のプロンプト(1024×1024)
- fp32 の元モデルとの比較(同じノイズから 9 ステップ、CPU 上の正確なシミュレーション):PSNR 約 16 dB。 構図や細部が少し変わることがありますが、画質は保たれます
ライセンス
元のモデルと同じ Apache License 2.0 です。元モデル:Tongyi-MAI/Z-Image-Turbo(テキストエンコーダーは Qwen3-4B、 VAE は FLUX VAE を含みます)。