ryugyosoft/Z-Image-Turbo-onw-image-int8

来源:🤗text-to-imageapache-2.011 GBother✓ 96 个校验和11 天前更新
或提交种子

Z-Image-Turbo for onw-Image (INT8, Intel NPU / Lunar Lake)

日本語 | English

Tongyi-MAI/Z-Image-Turbo を、Intel NPU で動かすアプリ onw-Image 用に変換したモデルです。単体では使えません。 onw-Image を入れると、このモデルも自動でダウンロードされます。

curl -fsSL https://huggingface.co/ryugyosoft/onw-image/resolve/main/install.sh | bash

内容

フォルダ・ファイル 中身
dit2/ DiT(画像生成本体、6B)。OpenVINO IR、INT8(W8A8)。6 層ずつ 5 グラフ+プロンプト側 refiner 1 グラフ
dit2_vec.npz 層ごとの正規化・量子化用ベクトル(ホスト側で使用)
te_seg/ テキストエンコーダー(Qwen3-4B の 35 層)。INT8 重み、5 層ずつ 7 グラフ
vae/ VAE デコーダー(FLUX VAE)、fp16
host/ ホスト側で計算する小さな部分(埋め込み、時刻埋め込み、変調、最終層など)
tokenizer.json トークナイザー
  • 対象:Lunar Lake(Core Ultra 200V シリーズ、NPU 4000)、メモリ 16 GB、Ubuntu
  • 初回起動時に NPU 向けのコンパイル(約 25 分)が走り、結果はこのフォルダの npu_blobs2/ に保存されます
  • 768×768、9 ステップで 1 枚約 70 秒(テキストエンコーダー・DiT・VAE の合計、onw-Image 0.1)

変換について

  • 重みは出力チャネルごとの INT8、活性化は INT8(FakeQuantize)。画像トークンは静的なテンソル単位、 プロンプトのトークンはトークンごとの 2 段 INT8
  • SmoothQuant(α=0.5)と、FFN の出力側(w2)の層ごとの α・クリップ調整。校正は 4 種類のプロンプト(1024×1024)
  • fp32 の元モデルとの比較(同じノイズから 9 ステップ、CPU 上の正確なシミュレーション):PSNR 約 16 dB。 構図や細部が少し変わることがありますが、画質は保たれます

ライセンス

元のモデルと同じ Apache License 2.0 です。元モデル:Tongyi-MAI/Z-Image-Turbo(テキストエンコーダーは Qwen3-4B、 VAE は FLUX VAE を含みます)。