Qwen-Image-2.1 GGUF: Berapa Sebenarnya Biaya yang Anda Tanggung dari Build Terkuantisasi

Tidak ada GGUF resmi dari Qwen-Image-2.1. Setiap berkas .gguf yang membawa nama itu dibuat oleh pihak lain, belakangan, dengan mengambil diffusion transformer 7B milik vendor dan menyandikan ulang bobotnya pada presisi yang lebih rendah — GGUF adalah format checkpoint terkuantisasi satu berkas yang dibaca oleh stack inferensi lokal. Satu kalimat itu menjawab pertanyaan pertama yang dimiliki pembaca dan memunculkan pertanyaan-pertanyaan yang lebih sulit yang diselesaikan halaman ini: apa yang sebenarnya dikompresi oleh kuantisasi model gambar, apa yang tidak disertakan oleh berkas tersebut secara bawaan, berapa biaya yang harus Anda tanggung dari level-level tersebut pada gambar, bukan hanya pada waktu proses, dan apa yang diperlukan untuk mendistribusikan ulang salah satunya di bawah lisensi yang menyertai bobot tersebut.

Model itu sendiri adalah fakta yang memberi tanggal pada halaman ini, bukan berita yang dilaporkannya. Qwen-Image-2.1 diunggah ke Hugging Face dan ModelScope pada 20 September 2026, dan kuantisasi komunitas untuk model itu menyusul pada hari yang sama — repositori leejet, Abiray, dan RealRebelAI semuanya dibuat pada 20 September dan repositori unsloth dibuat pada 21 September, yakni 23 hari sebelum halaman ini ditulis. Tidak ada yang perlu diulang tentang lini masa itu di sini; yang diinginkan pembaca yang mengetik "qwen image 2.1 gguf" adalah panduan pengoperasian, dan inilah panduan itu.

Apa itu GGUF dari model ini, dan apa yang bukan

Hal pertama yang harus diinternalisasi adalah bahwa file itu adalah fragmen. Qwen-Image-2.1 bukan satu jaringan; ia adalah transformer difusi plus encoder teks vision-language plus autoencoder. Kuantisasi yang beredar dengan namanya hanya berisi yang pertama dari itu dan tidak ada yang lain, dan repositori-repositori itu sendiri mengatakannya. Kartu Unsloth untuk Qwen-Image-2.1 GGUF miliknya menuangkannya dalam satu baris: "GGUF hanyalah denoiser, jadi ia memerlukan VAE dan encoder teks Qwen3-VL di sampingnya."

Jadi, unduhan GGUF adalah transformer — 32 lapisan DiT aliran tunggal, parameter 7B pada komponen pembangkitan visual — yang dinyatakan ulang pada presisi numerik yang dikurangi. Encoder teks dan VAE tetap dalam format aslinya atau dikuantisasi secara terpisah, oleh orang yang berbeda, di repositori yang berbeda. Inilah perbedaan struktural dari situasi model teks yang ada di benak sebagian besar pembaca: saat Anda mengunduh GGUF dari model chat, Anda telah mengunduh modelnya. Di sini, Anda baru mengunduh sepertiga dari sebuah pipeline.

Tidak satu pun dari ini adalah kemasan vendor. Repositori vendor Qwen/Qwen-Image-2.1 adalah rilis dengan tata letak Diffusers — model_index.json, transformer/, text_encoder/, vae/, scheduler/, processor/ — dan daftar berkasnya, yang dibaca pada 13 Oktober 2026, tidak memuat berkas .gguf jenis apa pun. Kuantisasi tersebut adalah artefak komunitas, diterbitkan dengan nama penulisnya masing-masing, dan mereka mewarisi lisensi vendor, bukan dukungan vendor.

Mengapa kebijaksanaan kuantisasi model teks tidak dapat ditransfer

Kebijaksanaan yang diterima tentang GGUF berasal dari model bahasa, di mana kira-kira: Q8_0 secara efektif tanpa kehilangan, Q4_K_M adalah titik optimal, apa pun di bawah Q3 adalah kompromi, dan kualitas diukur sebagai perplexity atau divergensi KL terhadap referensi presisi penuh. Hampir tidak ada dari itu yang berlaku untuk model gambar, dan alasannya layak untuk diperjelas secara tepat.

Tidak ada perplexity untuk diffusion transformer. Model tidak mengeluarkan distribusi token yang bisa dinilai; ia mengeluarkan latent yang didekode VAE menjadi piksel. Metrik yang ada di sisi ini — LPIPS, SSIM terhadap render referensi — memerlukan seed yang sama, prompt yang sama, dan pengaturan sampler yang sama di kedua sisi perbandingan, dan tetap mengukur jarak perseptual, bukan ketepatan. Jadi pertanyaan "berapa biaya Q4_K_M bagi saya?" tidak punya satu angka terbit tunggal seperti halnya untuk model teks, dan siapa pun yang menyebutkannya hanya menyebutkan satu pengukuran pada satu seed.

Kedua, dan yang lebih konsekuensial: pada model gambar, rata-rata lebar bit kurang penting daripada tensor mana yang kehilangan bitnya. Proyeksi attention dan jalur MLP yang membawa struktur gambar mengalami degradasi yang terlihat saat dibulatkan, sementara tensor normalisasi dan modulasi yang kecil toleran terhadap hampir apa pun. Konversi yang mencapai target seragam di setiap tensor karena itu bisa terlihat lebih buruk daripada konversi dengan label nominal yang sama yang melindungi lapisan sensitif — yang persis itulah yang ditemukan oleh orang-orang yang mengerjakan pekerjaan ini. RealRebelAI, yang menerbitkan catatan kuantisasi paling eksplisit yang bisa kami temukan, menyatakan bahwa "konversi Q4_K_M generik standar menunjukkan kehilangan kualitas yang terlihat pada struktur halus dan anatomi dibandingkan dengan model INT8 referensi," dan bahwa build miliknya sendiri mempertahankan attention Q/K/V/Out pada Q8_0 di dalam file Q4_K_M untuk memulihkannya. Label pada nama file adalah kuantisasi dasar, bukan kebijakannya.

Ketiga, mode kegagalannya berbeda secara jenis. Kuantisasi teks menurun terutama pada kelancaran, dan penurunannya berlangsung bertahap — kalimat yang sedikit lebih buruk tetaplah sebuah kalimat. Kuantisasi gambar pada tingkatan rendah gagal dengan cara yang jelas dan kadang tidak dapat digunakan: tangan dan anatomi, tekstur halus, tipografi kecil, dan — yang mudah terlewat karena sama sekali bukan artefak piksel — kepatuhan terhadap prompt. Jika sebuah build berhenti mematuhi separuh dari instruksi panjang, itu adalah biaya kuantisasi, dan hal itu tidak akan muncul dalam perbandingan berdampingan dua render yang bagus.

Tangga itu, dalam berkas alih-alih kata sifat

Ukuran file adalah satu-satunya bagian dari hal ini yang merupakan fakta keras, bukan penilaian, karena setiap repositori menerbitkan daftarnya sendiri. Dibaca pada 13 Oktober 2026, dua kuantisasi komunitas yang paling banyak diunduh sedikit berbeda satu sama lain, dan itu sendiri sudah informatif.

• Unsloth Dynamic 2.0 (12 file): F16 14,23 GB, Q8_0 7,64 GB, Q6_K_XL 6,72 GB, Q6_K 6,27 GB, Q5_K_M 5,39 GB, Q5_K_S 4,50 GB, Q4_K_M 4,20 GB, Q4_K_S 3,91 GB, Q3_K_XL 3,61 GB, Q3_K_M 3,17 GB, Q3_K_S 2,72 GB, Q2_K 2,47 GB.

• leejet / stable-diffusion.cpp (7 file): Q8_0 7,69 GB, Q6_K 6,00 GB, Q5_0 5,07 GB, Q4_K 4,20 GB, Q4_0 4,20 GB, Q3_K 3,27 GB, Q2_K 2,56 GB.

• Abiray (6 file): Q8_0 7,59 GB, Q6_K 5,88 GB, Q5_K_M 5,01 GB, Q4_K_M 4,19 GB, Q4_K_S 4,06 GB, Q3_K_M 3,19 GB.

• RealRebelAI menerbitkan tangga presisi campuran dengan akhiran-HQv3 alih-alih level biasa, dan mendokumentasikan presisi per modul dalam tabel; kuantisasi dasar berkisar dari Q2_K hingga Q8_0.

Sebaran ini nyata. Q8_0 berkisar dari 7.59 hingga 7.69 GB di tiga penerbit, dan Q6_K berkisar dari 5.88 hingga 6.27 GB — selisih 0.4 GB untuk level nominal yang sama, yang merupakan kebijakan presisi campuran yang terwujud sebagai byte. Siapa pun yang membandingkan dua build hanya berdasarkan nama file berarti membandingkan label, bukan artefak.

Sebagai gambaran skala di sisi lain: transformer F16 referensi berukuran 14,23 GB, dan komponen difusi bfloat16 milik vendor sendiri dalam repack Comfy-Org juga 14,23 GB. Jadi GGUF kelas Q4 kira-kira merupakan pengurangan 3,4× pada transformer, dan sama sekali tidak ada pengurangan pada encoder teks kecuali Anda mengkuantisasinya secara terpisah.

Berapa biaya setiap tingkat, jika sumber menyebutkannya

Hampir tidak ada yang mempublikasikan biaya kualitas terukur per level untuk model ini, dan hal yang jujur untuk dilakukan adalah memisahkan tiga jenis klaim yang beredar.

• Panduan memori, berdasarkan laporan komunitas.Repositori Abiray memasangkan setiap file dengan profil VRAM yang direkomendasikan: Q8_0 7,59 GB pada "12 GB+ (fidelitas hampir tanpa kehilangan)", Q6_K 5,88 GB pada 10–12 GB, Q5_K_M 5,01 GB pada 8–10 GB, Q4_K_M 4,19 GB dan Q4_K_S 4,06 GB pada 6–8 GB, serta Q3_K_M 3,19 GB pada 4–6 GB untuk "anggaran ekstrem / VRAM minimum". Ini adalah aturan praktis penerbit sendiri, bukan spesifikasi vendor dan bukan tolok ukur yang dapat kami reproduksi; semuanya juga hanya menjelaskan file transformer saja, jadi ruang cadangan yang Anda perlukan untuk encoder teks harus ditambahkan di atasnya.

• Perbandingan terukur, dilaporkan oleh kuantiser dan dengan satu seed. Unsloth menerbitkan satu pasangan angka untuk sisi encoder dari pipeline: encoder teks Dynamic 2.0 4-bit miliknya versus encoder Q4_K_M yang seragam, keduanya pada seed yang sama dengan denoiser dan VAE dijaga tetap, pada LPIPS 0,029 dan SSIM 0,959, dalam 5,15 GB versus 5,03 GB dan 36,5 s versus 39,0 s. Ini adalah satu pengukuran oleh pihak yang menjual file tersebut, pada satu seed, dan ini adalah satu-satunya perbandingan kuantitatif terbitan dari dua kebijakan kuantisasi untuk model ini yang dapat kami temukan.

• Daftar kegagalan kualitatif, dilaporkan oleh komunitas. RealRebelAI menyebutkan apa saja yang masih dapat dipengaruhi oleh kuantisasi bit yang lebih rendah — "detail halus, tangan dan anatomi, tipografi, kepatuhan pada prompt, kesetiaan pengeditan, konsistensi tekstur" — dan menyarankan untuk menaikkan satu tingkat ketika degradasi terlihat. Dokumen itu menyatakan secara gamblang bahwa Q3_K_M dan Q2_K ditujukan untuk sistem yang terbatas memori dan "tetap dapat menunjukkan penurunan kualitas yang makin besar meskipun lapisan presisi tinggi telah dilindungi."

Apa yang tidak diterbitkan sama pentingnya dengan apa yang ada. Tidak ada pernyataan vendor tentang kualitas kuantisasi untuk Qwen-Image-2.1 sama sekali, tidak ada tolok ukur independen dari build GGUF mana pun, dan tidak ada tabel throughput pada perangkat keras konsumen bernama dari siapa pun yang dapat kami temukan. Arah trade-off memori sudah pasti dan arah trade-off kecepatan secara umum sudah pasti; besarnya biaya kesetiaan tidak ditetapkan di publik, dan halaman ini tidak akan memperkirakannya untuk Anda.

Apa yang sebenarnya menjalankannya

Situasi runtime-nya sudah luar biasa mapan untuk format yang masih baru seperti ini, yang merupakan keuntungan nyata dibanding situasi GGUF yang biasa.

• stable-diffusion.cpp — implementasi referensi untuk GGUF model gambar. Daftar berita proyeknya mencatat dukungan Day-0 untuk Qwen-Image-2.1 pada 20 September 2026, dan mendokumentasikan halaman khusus untuk model tersebut. Baris perintah menerima model difusi terkuantisasi secara langsung: --diffusion-model qwen-image-2.1-Q4_K_M.gguf --vae qwen_image_2.1_vae_bf16.safetensors --llm Qwen3-VL-8B-Instruct-UD-Q4_K_XL.gguf, dengan --steps 20 --cfg-scale 6.0 --sampling-method euler dalam contoh milik penerbit sendiri.

• ComfyUI, melalui node kustom. Ini adalah jalur yang akan diambil sebagian besar pembaca, dan ada satu hal rumit yang perlu diketahui sebelum Anda menginstal apa pun. Repositori yang paling sering ditunjuk oleh para pengkuantisasi adalah city96/ComfyUI-GGUF; penulis stable-diffusion.cpp menerbitkan fork-nya sendiri, leejet/ComfyUI-GGUF, dan README-nya memuat instruksi eksplisit untuk lebih memilihnya, dengan alasan yang dinyatakan bahwa "repositori city96 tampaknya tidak lagi dirawat secara aktif." Itu adalah klaim dari satu pihak tentang pihak lain dan klaim itu bertanggal; riwayat commit pada city96/ComfyUI-GGUF memang menunjukkan aktivitas terbarunya pada Januari 2026. Halaman dokumentasi resmi ComfyUI sendiri untuk Qwen-Image-2.1 hanya mencantumkan bobot .safetensors dan sama sekali tidak menyebut GGUF, sehingga node kustom itu bukan opsional dan tidak diresmikan oleh vendor. Kedua loader menempatkan file di ComfyUI/models/diffusion_models/ dan mengeksposnya melalui loader model difusi GGUF.

• llama.cpp / ggml — bukan sampler untuk model ini, melainkan asal mula format dan toolchain yang menghasilkan file-file ini. Repositori leejet dan Abiray sama-sama mengakuinya secara eksplisit. Jika Anda menginginkan level yang belum dipublikasikan oleh siapa pun, inilah yang Anda gunakan untuk mengonversi.

• Unsloth Desktop — disebut oleh repositori unsloth sebagai front end yang didukung bersama stable-diffusion.cpp.

Satu runtime secara mencolok tidak memuatnya: Diffusers. Panduan cepat resmi dari vendor sendiri adalah QwenImage21Pipeline di atas repositori safetensors bfloat16, dan tidak ada jalur GGUF dalam pipeline tersebut. Jika Anda menginginkan Diffusers, Anda bukan target audiens untuk file terkuantisasi; jika Anda menginginkan file terkuantisasi, stable-diffusion.cpp atau graf ComfyUI adalah tempat Anda berakhir.

Bagian yang sebenarnya menghalangi orang

Setiap laporan kegagalan seputar format ini bermuara pada hal yang sama: GGUF adalah transformer-nya, jadi bagian lain dari pipeline harus dirangkai secara manual, dalam format yang benar, dari repositori yang benar. Ada tiga komponen yang termasuk dalam cakupan dan salah satunya mengandung jebakan.

• Encoder teks. Qwen-Image-2.1 melakukan pengondisian pada Qwen3-VL 8B, dan encoder itu lebih besar daripada transformer pada presisi penuh — 17,53 GB dalam bfloat16 pada repack Comfy-Org, dibandingkan 14,23 GB untuk model difusi. Alternatif terkuantisasi tersedia pada 9,35 GB (int8) dan 6,31 GB (w4a8) dalam repack yang sama, dan secara independen sebagai GGUF: vendor menerbitkan versi pihak pertama dari Qwen/Qwen3-VL-8B-Instruct-GGUF dengan F16 pada 16,39 GB, Q8_0 pada 8,71 GB dan Q4_K_M pada 5,03 GB. Perhatikan bahwa GGUF encoder ini adalah artefak vendor, tidak seperti GGUF transformer yang berada di sebelahnya — dua bagian dari pipeline Anda berasal dari penerbit yang berbeda dengan asal-usul yang berbeda.

• VAE-nya. Satu file, qwen_image_2.1_vae_bf16.safetensors, 0,68 GB dalam repack Comfy-Org. Ukurannya kecil dan ini adalah komponen yang paling sering dianggap dapat dipertukarkan, padahal tidak: dokumentasi stable-diffusion.cpp menyatakan bahwa bobot VAE Qwen Image dan Wan 2.2 yang lebih awal tidak dapat dipertukarkan dengan bobot VAE Qwen Image 2.1. Pasangkan yang salah dan grafiknya akan dimuat dan menghasilkan gambar yang salah.

• Proyektor visi, jika Anda ingin mengedit. Teks-ke-gambar adalah bagian yang mudah. Untuk penyuntingan gambar, encoder memerlukan proyektor multimodal terpisah: dokumentasi stable-diffusion.cpp menginstruksikan pembaca untuk juga mengunduh mmproj-Qwen3VL-8B-Instruct-F16.gguf (1,16 GB) dari repositori encoder dan meneruskannya dengan --llm_vision, dan ulangi -r sekali per gambar referensi. GGUF yang hanya berisi transformer ditambah encoder teks hanyalah pipeline teks-ke-gambar dan tidak lebih.

Dua unggahan lainnya patut diketahui. Rilis ini juga menyertakan dua encoder penulis ulang prompt — Qwen-Image-2.1-PE-T2I dan Qwen-Image-2.1-PE-I2I, keduanya model 9B yang telah disempurnakan — yang direkomendasikan vendor untuk dijalankan di depan model gambar, dan keduanya juga sedang dikuantisasi: build GGUF dari penulis ulang T2I dari proyek LightX2V muncul di Hugging Face pada 12 Oktober 2026, bersama beberapa build komunitas. Dan saluran alpha, yang merupakan salah satu fitur yang lebih khas dari model ini, bertahan melalui kuantisasi tetapi tidak di setiap kontainer: model difusi menentukan transparansi dari prompt alih-alih dari sakelar, dan alpha hanya disimpan dalam .png dan .webp keluaran.

Perencanaan memori seputar GGUF itu sendiri adalah area di mana dokumentasi runtime benar-benar spesifik, yang jarang terjadi. stable-diffusion.cpp menggunakan kembali kunci dan nilai teks serta gambar referensi yang tidak bergantung pada langkah sebagai cache prefiks, dan mempublikasikan berapa biayanya per kondisi untuk model 32 lapis pada prefiks 4096 token: 4 GiB pada FP32, 2 GiB pada FP16, 1,0625 GiB pada q8_0, 0,5625 GiB pada q4_0. Mengkuantisasi cache adalah pertukaran kedua yang terpisah dari mengkuantisasi bobot, fitur ini nonaktif secara bawaan, dan penyimpanan cache terkuantisasi menimbulkan galat pembulatan tambahan yang ditandai oleh dokumentasi alih-alih disembunyikan.

Lisensi yang diwarisi oleh kuantisasi

Ini adalah bagian yang paling sering dilewati halaman GGUF, dan untuk model ini, bagian inilah yang mengubah apa yang bisa Anda lakukan.

Bobot dasar tidak didistribusikan di bawah lisensi permisif. Qwen/Qwen-Image-2.1 repositori mencantumkan license: other dengan license_name: qwen-research, dan berkas LICENSE adalah Qwen Research License Agreement, tanggal rilis 20 September 2026. Dibaca secara lengkap pada 13 Oktober 2026, pemberian hak yang berlaku di dalamnya adalah lisensi non-eksklusif, di seluruh dunia, tidak dapat dialihkan, dan bebas royalti untuk "menggunakan, mereproduksi, mendistribusikan, menyalin, menciptakan karya turunan dari, dan melakukan modifikasi terhadap Materi HANYA UNTUK TUJUAN NON-KOMERSIAL", dengan "Non-Komersial" didefinisikan di dalam perjanjian sebagai "hanya untuk tujuan penelitian atau evaluasi" dan penggunaan komersial dialihkan ke lisensi terpisah yang diminta melalui email ke alamat yang disebutkan dalam perjanjian.

Checkpoint terkuantisasi adalah karya turunan dari Materi tersebut, yang berarti redistribusi GGUF adalah redistribusi berdasarkan perjanjian itu dan mencakup setiap kondisi yang melekat padanya. Tiga di antaranya bersifat konkret:

• Anda harus meneruskan perjanjian ini. Pasal 3(a) mengharuskan Anda memberikan salinan lisensi kepada siapa pun yang menerima materi tersebut atau turunannya. Repositori GGUF dengan tag lisensi dan tanpa teks perjanjian tidak memenuhi syarat, berapa pun jumlah unduhannya.

• Anda harus menandai apa yang Anda ubah.Pasal 3(b) mewajibkan berkas yang dimodifikasi memuat pemberitahuan yang mencolok yang menyatakan bahwa berkas tersebut telah diubah. Berkas bobot yang dikodekan ulang adalah berkas yang dimodifikasi.

• Anda harus menyertakan pemberitahuan atribusi kata demi kata. Bagian 3(c) mengharuskan teks pemberitahuan — "Qwen is licensed under the Qwen RESEARCH LICENSE AGREEMENT, Copyright (c) 2026 Hangzhou Tongyi Laboratory Technology Co., Ltd. All Rights Reserved." — untuk dipertahankan dalam file teks "Notice" yang didistribusikan bersama salinan-salinan.

Dua aturan tambahan mengikat orang yang melakukan kuantisasi dan siapa pun yang membangun di atas hasilnya. Jika Anda melatih, menyempurnakan, atau meningkatkan model AI menggunakan materi tersebut atau keluarannya lalu mendistribusikannya, Anda harus menampilkan secara mencolok "Built with Qwen" atau "Improved using Qwen" dalam dokumentasi produk. Dan Anda tidak boleh menggunakan "Qwen" sebagai nama utama atau pengenal karya turunan, meskipun penggunaan deskriptif seperti "fine-tuned from Qwen Image" diperbolehkan. Hukum yang berlaku adalah hukum Tiongkok, dengan yurisdiksi eksklusif di Pengadilan Rakyat Hangzhou.

Intinya secara praktis adalah satu baris, dan layak dinyatakan secara gamblang karena format menyembunyikannya: mengkuantisasi bobot tidak mengubah lisensi. Setiap repositori yang diperiksa untuk halaman ini memuat license_name: qwen-research dan menautkan kembali ke berkas LICENSE vendor, dan jumlah unduhan pada berkas GGUF bukanlah pemberian hak komersial. Sebagai perbandingan, lini Qwen image sebelumnya bersifat permisif — kartu model untuk Qwen-Image, Qwen-Image-Edit, Qwen-Image-Edit-2511 dan Qwen-Image-2512 semuanya mencantumkan apache-2.0 pada 13 Oktober 2026 — dan Qwen-Image-2.1 adalah penyimpangan dari pola itu. Jika pipeline komersial adalah tujuannya, lisensi adalah hal pertama yang harus dibaca dan bukan yang terakhir.

Ke mana ini membawamu

Dinyatakan sebagai keputusan, bukan ringkasan: jika kartu Anda tidak dapat menampung transformer 14,23 GB ditambah encoder 17,53 GB ditambah VAE, build GGUF adalah satu-satunya cara Anda dapat menjalankan Qwen-Image-2.1 sama sekali, dan ekspektasi yang jujur adalah bahwa kuantisasi tingkat menengah memungkinkan Anda menjalankannya dan membuat Anda mengorbankan sesuatu pada detail halus, tangan, teks kecil, dan kemampuan mengikuti instruksi — tanpa pengukuran yang dipublikasikan untuk memberi tahu Anda seberapa besar. Jika kartu Anda dapat menampungnya, jalur safetensors adalah jalur yang didokumentasikan vendor dan jalur yang memiliki referensi terdefinisi.

Dua pembaca memerlukan satu kalimat masing-masing di tempat lain pada properti ini. Jika yang sebenarnya Anda inginkan adalah build komunitas dengan pemfilteran keamanan yang dilepas, bukan pembahasan tentang formatnya, itu ada di halaman lain dan build tanpa sensor dibahas di sana. Dan jika tujuan Anda sebenarnya adalah grafik simpul yang berfungsi, bukan berkas yang harus Anda rakit sendiri secara manual, halaman ComfyUI menjelaskan seluruh pipeline, loader demi loader.

Yang masih terbuka adalah hal yang belum diterbitkan oleh ekosistem ini: perbandingan terkendali atas level-level ini pada seed tetap, dengan prompt yang sama dan sampler yang sama, pada perangkat keras yang disebutkan oleh seseorang. Catatan RealRebelAI bahwa Q4_K_M generik tampak mengalami degradasi terhadap referensi INT8, sementara build presisi campuran dengan label yang sama tidak, adalah hal yang paling mendekati jawaban itu di ruang publik, dan itu merupakan uji A/B milik satu penerbit sendiri. Sampai seseorang menerbitkan perbandingan tersebut, level yang sebaiknya Anda pilih adalah level tertinggi yang memori Anda memungkinkan, dan label pada nama file adalah jaminan yang lebih lemah daripada kebijakan tensor di baliknya.