Qwen-Image-2.1 GGUF: 양자화된 빌드가 실제로 당신에게 치르게 하는 대가

의 공식 GGUF는 없습니다Qwen-Image-2.1. 그 이름을 가진 모든 .gguf 파일은 공급업체의 7B 확산 트랜스포머를 가져와 가중치를 더 낮은 정밀도로 재인코딩함으로써, 사후에 다른 누군가가 만들어낸 것입니다 — GGUF는 로컬 추론 스택이 읽는 단일 파일 양자화 체크포인트 형식입니다. 그 한 문장은 독자가 처음 품는 질문에 답하는 동시에, 이 페이지가 해결하는 더 어려운 질문들을 제기합니다: 이미지 모델의 양자화가 실제로 압축하는 것은 무엇인지, 그 파일이 기본적으로 무엇을 빼놓는지, 그 수준들이 단지 처리 시간이 아니라 이미지에서 어떤 비용을 치르게 하는지, 그리고 가중치에 딸린 라이선스 아래에서 그것을 재배포하려면 무엇이 필요한지.

이 페이지의 날짜를 정하는 사실은 모델 자체이지, 그것이 전하는 뉴스가 아니다. Qwen-Image-2.1은 2026년 9월 20일 Hugging Face와 ModelScope에 올라왔고, 그에 대한 커뮤니티 양자화는 같은 날 이어졌다 — leejet, Abiray, RealRebelAI 리포지터리는 모두 9월 20일에 만들어졌으며 unsloth의 리포지터리는 9월 21일에 만들어졌는데, 이는 이 페이지가 작성되기 23일 전이다. 그 타임라인에 관해 여기서 다시 말할 필요는 없다. "qwen image 2.1 gguf"를 입력한 독자가 원하는 것은 운영 매뉴얼이며, 바로 이것이다.

이 모델의 GGUF가 무엇인지, 그리고 무엇이 아닌지

가장 먼저 내면화해야 할 것은 이 파일이 단편이라는 점이다. Qwen-Image-2.1은 하나의 네트워크가 아니다. 그것은 확산 트랜스포머에 비전-언어 텍스트 인코더와 오토인코더를 더한 것이다. 그 이름으로 유통되는 양자화들은 그중 첫 번째만 포함하고 그 외에는 아무것도 포함하지 않으며, 저장소들도 스스로 그렇게 밝히고 있다. Unsloth의 Qwen-Image-2.1 GGUF 카드는 이를 한 줄로 요약한다. "GGUF는 디노이저일 뿐이므로, 그와 함께 VAE와 Qwen3-VL 텍스트 인코더가 필요합니다."

그래서 GGUF 다운로드는 트랜스포머 — 32개의 단일 스트림 DiT 레이어, 시각 생성 구성 요소의 7B 파라미터 — 를 더 낮은 수치 정밀도로 다시 표현한 것입니다. 텍스트 인코더와 VAE는 원래 형식으로 남거나, 서로 다른 사람들이 서로 다른 저장소에서 별도로 양자화합니다. 이것이 대부분의 독자가 머릿속에 지니고 있는 텍스트 모델 상황과의 구조적 차이입니다. 채팅 모델의 GGUF를 다운로드할 때는 모델을 다운로드한 것입니다. 여기서는 파이프라인의 3분의 1을 다운로드한 것입니다.

이 중 어느 것도 벤더의 패키징이 아닙니다. 벤더 저장소 Qwen/Qwen-Image-2.1은 Diffusers 레이아웃 릴리스로, model_index.json, transformer/, text_encoder/, vae/, scheduler/, processor/로 구성되어 있으며, 2026년 10월 13일에 확인한 파일 목록에는 .gguf 파일이 어떤 형태로도 포함되어 있지 않습니다. 양자화는 커뮤니티 산출물로서 해당 저자들의 이름으로 게시된 것이며, 벤더의 보증이 아니라 벤더의 라이선스를 물려받은 것입니다.

텍스트 모델 양자화에 관한 통념은 왜 그대로 통하지 않는가

GGUF에 관한 통념은 언어 모델에서 비롯된 것으로, 대략 이러합니다. Q8_0은 사실상 무손실이고, Q4_K_M은 최적점이며, Q3 미만은 모두 절충안이고, 품질은 전체 정밀도 기준에 대한 퍼플렉시티나 KL 발산으로 측정됩니다. 그중 이미지 모델에 그대로 적용되는 것은 거의 없으며, 그 이유는 정확히 짚어볼 가치가 있습니다.

확산 트랜스포머에는 퍼플렉서티가 없습니다. 이 모델은 점수를 매길 수 있는 토큰 분포를 내놓지 않고, VAE가 픽셀로 디코딩하는 잠재 표현을 내놓습니다. 이 울타리 안쪽에 존재하는 지표들 — 참조 렌더에 대한 LPIPS, SSIM — 은 비교 대상 양쪽에서 동일한 시드, 동일한 프롬프트, 동일한 샘플러 설정을 요구하며, 그런데도 정확성이 아니라 지각적 거리를 측정합니다. 따라서 "Q4_K_M이 나에게 얼마나 손해인가?"라는 질문에는 텍스트 모델에서처럼 단일한 공표된 숫자가 없으며, 그런 숫자를 하나 인용하는 사람은 단 하나의 시드에 대한 단 하나의 측정값을 인용하는 것입니다.

둘째, 그리고 더 중요한 점은: 이미지 모델에서는 평균 비트 폭이 어떤 텐서가 비트를 잃었는지보다 덜 중요합니다. 이미지 구조를 담고 있는 어텐션 프로젝션과 MLP 경로는 반올림되면 눈에 띄게 품질이 저하되는 반면, 작은 정규화 및 모듈레이션 텐서는 거의 무엇이든 견뎌냅니다. 따라서 모든 텐서에 균일한 목표를 적용하는 변환은 민감한 레이어를 보호하는, 명목상 같은 레이블을 가진 변환보다 오히려 더 나빠 보일 수 있습니다 — 바로 이것이 이 작업을 하는 사람들이 발견한 사실입니다. 우리가 찾을 수 있었던 가장 명시적인 양자화 노트를 공개한 RealRebelAI는 "표준 범용 Q4_K_M 변환은 참조 INT8 모델과 비교했을 때 미세 구조와 해부학적 구조에서 눈에 띄는 품질 손실을 보였다"고 밝히며, 자체 빌드에서는 이를 복구하기 위해 Q4_K_M 파일 안에서 어텐션 Q/K/V/Out을 Q8_0으로 유지한다고 합니다. 파일 이름에 붙은 레이블은 기준 양자화이지, 정책이 아닙니다.

셋째, 실패 양상은 종류 자체가 다르다. 텍스트 양자화는 대체로 유창성 저하로 나타나고, 그마저도 완만하게 저하된다—조금 더 나쁜 문장도 여전히 문장이다. 낮은 단계의 이미지 양자화는 명백하고 때로는 사용할 수 없을 정도의 방식으로 실패한다: 손과 해부학, 미세한 질감, 작은 타이포그래피, 그리고—픽셀 아티팩트가 전혀 아니기 때문에 놓치기 쉬운 하나—프롬프트 준수다. 빌드가 긴 지시의 절반을 더 이상 따르지 않는다면, 그것은 양자화 비용이며, 좋은 렌더 두 개를 나란히 놓고 비교해도 드러나지 않을 것이다.

사다리, 형용사가 아닌 파일로

파일 크기는 이 가운데 판단이 아니라 확고한 사실에 속하는 유일한 부분입니다. 모든 저장소가 자체 목록을 공개하기 때문입니다. 2026년 10월 13일 기준으로 확인했을 때, 가장 많이 다운로드된 두 커뮤니티 양자화는 서로 약간 어긋나는데, 이는 그 자체로 유익한 정보입니다.

• Unsloth Dynamic 2.0 (파일 12개): F16 14.23 GB, Q8_0 7.64 GB, Q6_K_XL 6.72 GB, Q6_K 6.27 GB, Q5_K_M 5.39 GB, Q5_K_S 4.50 GB, Q4_K_M 4.20 GB, Q4_K_S 3.91 GB, Q3_K_XL 3.61 GB, Q3_K_M 3.17 GB, Q3_K_S 2.72 GB, Q2_K 2.47 GB.

• leejet / stable-diffusion.cpp (파일 7개): Q8_0 7.69 GB, Q6_K 6.00 GB, Q5_0 5.07 GB, Q4_K 4.20 GB, Q4_0 4.20 GB, Q3_K 3.27 GB, Q2_K 2.56 GB.

• Abiray (파일 6개): Q8_0 7.59 GB, Q6_K 5.88 GB, Q5_K_M 5.01 GB, Q4_K_M 4.19 GB, Q4_K_S 4.06 GB, Q3_K_M 3.19 GB.

• RealRebelAI는 단순한 레벨이 아니라 -HQv3 접미사가 붙은 혼합 정밀도 사다리를 공개하고, 모듈별 정밀도를 표로 문서화합니다. 기본 양자화는 Q2_K부터 Q8_0까지입니다.

편차는 실재합니다. Q8_0은 세 개의 배포자에 걸쳐 7.59~7.69GB에 이르고, Q6_K는 5.88~6.27GB입니다 — 동일한 명목 수준인데도 0.4GB 차이가 나며, 이는 혼합 정밀도 정책이 바이트로 드러난 것입니다. 파일 이름만으로 두 빌드를 비교하는 사람은 아티팩트가 아니라 레이블을 비교하는 셈입니다.

다른 쪽 규모를 가늠해 보면: 기준 F16 트랜스포머는 14.23GB이고, Comfy-Org 리팩에 들어 있는 벤더 자체의 bfloat16 디퓨전 구성 요소도 14.23GB입니다. 따라서 Q4급 GGUF는 트랜스포머를 대략 3.4분의 1로 줄이지만, 텍스트 인코더는 별도로 양자화하지 않는 한 전혀 줄이지 않습니다.

각 단계에 드는 비용, 출처가 그렇게 밝히는 경우

이 모델에 대해 레벨당 측정된 품질 비용을 공개하는 사람은 거의 없으며, 정직하게 할 일은 유통되는 세 가지 종류의 주장을 구분하는 것입니다.

• 메모리 지침, 커뮤니티 보고 기준. Abiray의 저장소는 각 파일을 권장 VRAM 프로필과 함께 제공합니다: Q8_0 7.59 GB는 "12 GB+ (거의 무손실 충실도)", Q6_K 5.88 GB는 10–12 GB, Q5_K_M 5.01 GB는 8–10 GB, Q4_K_M 4.19 GB 및 Q4_K_S 4.06 GB는 6–8 GB, Q3_K_M 3.19 GB는 "극단적 예산 / 최소 VRAM"용 4–6 GB입니다. 이는 게시자 자체의 대략적인 기준이며, 공급업체 사양도 아니고 우리가 재현할 수 있었던 벤치마크도 아닙니다. 또한 트랜스포머 파일만을 설명하므로, 텍스트 인코더에 필요한 여유 공간은 그 위에 추가로 필요합니다.

• 측정된 비교이며, 양자화기 보고 기반의 단일 시드입니다. Unsloth는 파이프라인의 인코더 측면에 대해 하나의 수치 쌍을 공개합니다: 자사의 Dynamic 2.0 4비트 텍스트 인코더와 균일한 Q4_K_M 인코더를 비교한 것으로, 둘 다 디노이저와 VAE를 고정한 상태에서 공유 시드를 사용했으며, LPIPS 0.029 및 SSIM 0.959, 5.15 GB 대 5.03 GB, 36.5 s 대 39.0 s입니다. 이는 파일을 판매하는 당사자가 단일 시드에서 수행한 한 번의 측정이며, 우리가 찾을 수 있었던 이 모델의 두 양자화 정책에 대한 유일한 공개 정량 비교입니다.

• 커뮤니티에서 보고된 정성적 실패 목록. RealRebelAI는 저비트 양자화가 여전히 영향을 미칠 수 있는 항목으로 "섬세한 디테일, 손과 해부학적 구조, 타이포그래피, 프롬프트 준수, 편집 충실도, 텍스처 일관성"을 꼽으며, 성능 저하가 눈에 띄면 한 단계 위로 올릴 것을 권장한다. 또한 Q3_K_M과 Q2_K는 메모리가 제한된 시스템을 위한 것이며 "보호된 고정밀 레이어에도 불구하고 품질 손실이 계속 커질 수 있다"고 분명히 밝힌다.

공개된않은 것은 공개된 것만큼 중요하다. Qwen-Image-2.1의 양자화 품질에 관한 벤더의 발표는 전혀 없으며, 어떤 GGUF 빌드에 대한 독립적인 벤치마크도 없고, 우리가 찾아낼 수 있었던 누구로부터도 특정 소비자용 하드웨어에서의 처리량 표도 없다. 메모리 트레이드오프의 방향은 확실하고 속도 트레이드오프의 방향도 대체로 확실하지만, 충실도 비용의 크기는 공개적으로 확립되어 있지 않으며, 이 페이지가 여러분 대신 그것을 추정해 주지는 않을 것이다.

실제로 그것을 실행하는 것은 무엇인가요?

런타임 상황은 이렇게 최근에 등장한 포맷치고는 이례적으로 안정되어 있으며, 이는 일반적인 GGUF 상황에 비해 실질적인 이점이다.

• stable-diffusion.cpp — 이미지 모델 GGUF를 위한 레퍼런스 구현입니다. 프로젝트 뉴스 목록에는 2026년 9월 20일 Qwen-Image-2.1에 대한 Day-0 지원이 기록되어 있고, 이 모델을 위한 전용 페이지도 문서화되어 있습니다. 명령줄은 양자화된 확산 모델을 직접 받습니다: --diffusion-model qwen-image-2.1-Q4_K_M.gguf --vae qwen_image_2.1_vae_bf16.safetensors --llm Qwen3-VL-8B-Instruct-UD-Q4_K_XL.gguf, 그리고 --steps 20 --cfg-scale 6.0 --sampling-method euler는 발행자의 자체 예시에서 사용됩니다.

• 사용자 정의 노드를 통한 ComfyUI. 이것은 대부분의 독자가 택할 경로이며, 설치하기 전에 알아둘 만한 문제점이 하나 있습니다. 대부분의 양자화 작업자가 가리키는 저장소는 city96/ComfyUI-GGUF입니다. stable-diffusion.cpp 작성자는 자신의 포크인 leejet/ComfyUI-GGUF를 공개했으며, 그의 README에는 "city96 저장소가 더 이상 활발히 유지관리되지 않는 것으로 보인다"는 명시된 근거를 들어 그것을 선호하라는 분명한 지침이 있습니다. 이는 한쪽이 다른 쪽에 관해 한 주장이며 시점이 있습니다. city96/ComfyUI-GGUF의 커밋 이력은 실제로 가장 최근 활동이 2026년 1월에 있었음을 보여줍니다. Qwen-Image-2.1에 관한 ComfyUI 자체의 공식 문서 페이지에는 .safetensors 가중치만 나열되어 있고 GGUF는 전혀 언급하지 않으므로, 사용자 정의 노드는 선택 사항이 아니며 벤더가 공인한 것도 아닙니다. 두 로더 모두 파일을 ComfyUI/models/diffusion_models/에 배치하고 GGUF 디퓨전 모델 로더를 통해 노출합니다.

• llama.cpp / ggml — 이 모델용 샘플러는 아니지만, 이 형식의 기원이자 이 파일들을 만들어 내는 툴체인입니다. leejet와 Abiray 저장소 모두 이를 명시적으로 언급합니다. 아무도 공개하지 않은 레벨을 원한다면, 바로 이것으로 변환하면 됩니다.

• Unsloth Desktop — unsloth 리포지토리에서 stable-diffusion.cpp와 함께 지원되는 프런트 엔드로 명명되었습니다.

한 런타임은 눈에 띄게 그것을 로드하지 않습니다: Diffusers. 해당 벤더의 자체 퀵스타트는 bfloat16 safetensors 리포지토리를 기반으로 한 QwenImage21Pipeline이며, 그 파이프라인에는 GGUF 경로가 없습니다. Diffusers를 원한다면 당신은 양자화된 파일의 대상 독자가 아니며, 양자화된 파일을 원한다면 stable-diffusion.cpp나 ComfyUI 그래프로 가게 됩니다.

사람들을 실제로 가로막는 부분

이 형식과 관련된 모든 실패 보고는 결국 같은 원인으로 귀결됩니다: GGUF가 트랜스포머이므로, 나머지 파이프라인은 올바른 형식으로, 올바른 저장소에서 수작업으로 조립해야 합니다. 세 가지 구성 요소가 범위에 있으며 그중 하나에는 함정이 있습니다.

• 텍스트 인코더. Qwen-Image-2.1은 Qwen3-VL 8B를 조건으로 하며, 그 인코더는 전체 정밀도에서 트랜스포머보다 큽니다 — Comfy-Org 리팩에서 bfloat16으로 17.53GB이며, 확산 모델의 14.23GB에 비해 큽니다. 양자화된 대안은 동일한 리팩에서 9.35GB(int8) 및 6.31GB(w4a8)로 존재하며, 독립적으로 GGUF로도 존재합니다: 공급업체는 퍼스트파티 Qwen/Qwen3-VL-8B-Instruct-GGUF를 F16 16.39GB, Q8_0 8.71GB, Q4_K_M 5.03GB로 게시합니다. 이 인코더 GGUF는 옆에 있는 트랜스포머 GGUF와 달리 공급업체 아티팩트입니다 — 파이프라인의 두 절반은 출처가 다른 서로 다른 게시자로부터 제공됩니다.

• VAE. 단일 파일, qwen_image_2.1_vae_bf16.safetensors, Comfy-Org 리팩에서 0.68 GB입니다. 이 파일은 작으며, 사람들이 가장 흔히 호환 가능하다고 가정하는 구성 요소이지만, 실제로는 그렇지 않습니다: stable-diffusion.cpp 문서에 따르면, 이전 Qwen Image 및 Wan 2.2 VAE 가중치는 Qwen Image 2.1 VAE 가중치와 호환되지 않습니다. 잘못된 것을 짝지으면 그래프는 로드되지만 잘못된 그림을 생성합니다.

• 편집하려면 비전 프로젝터가 필요합니다. 텍스트-투-이미지는 쉬운 절반일 뿐입니다. 이미지 편집을 위해서는 인코더에 별도의 멀티모달 프로젝터가 필요합니다. stable-diffusion.cpp 문서는 독자들에게 인코더 저장소에서 mmproj-Qwen3VL-8B-Instruct-F16.gguf(1.16 GB)도 내려받아 --llm_vision과 함께 전달하고, 참조 이미지마다 -r을 한 번씩 반복하라고 안내합니다. 트랜스포머 전용 GGUF에 텍스트 인코더를 더한 것은 텍스트-투-이미지 파이프라인일 뿐, 그 이상은 아닙니다.

알아둘 만한 업로드가 두 가지 더 있습니다. 이번 릴리스에는 프롬프트 재작성 인코더 두 개도 함께 제공됩니다 — Qwen-Image-2.1-PE-T2I 및 Qwen-Image-2.1-PE-I2I, 둘 다 파인튜닝된 9B 모델입니다 — 벤더는 이를 이미지 모델 앞단에서 실행할 것을 권장하며, 이것들도 양자화되고 있습니다. LightX2V 프로젝트의 T2I 재작성기 GGUF 빌드가 2026년 10월 12일 Hugging Face에 등장했고, 여러 커뮤니티 빌드도 함께 올라왔습니다. 그리고 이 모델의 더 독특한 특징 중 하나인 알파 채널은 양자화는 견디지만 모든 컨테이너에서 유지되지는 않습니다. 디퓨전 모델은 스위치가 아니라 프롬프트를 통해 투명도를 결정하며, 알파는 .png 및 .webp 출력에서만 유지됩니다.

GGUF 자체를 둘러싼 메모리 계획은 런타임 문서가 진짜로 구체적인 부분이며, 이는 드문 일이다. stable-diffusion.cpp는 스텝 독립적인 텍스트 및 참조 이미지 키와 값들을 접두사 캐시로 재사용하고, 32레이어 모델에서 4096토큰 접두사 기준 조건당 그 비용이 얼마인지 공개한다: FP32에서 4 GiB, FP16에서 2 GiB, q8_0에서 1.0625 GiB, q4_0에서 0.5625 GiB. 캐시를 양자화하는 것은 가중치를 양자화하는 것과는 별개의 두 번째 트레이드오프이며, 기본적으로 꺼져 있고, 양자화된 캐시 저장은 문서가 숨기지 않고 지적하는 추가적인 반올림 오차를 도입한다.

양자화가 상속받는 라이선스

이 섹션은 대부분의 GGUF 페이지가 건너뛰는 부분이며, 이 모델에서는 여러분이 할 수 있는 일을 바꿔 놓는 부분입니다.

기본 가중치는 허용적 라이선스로 배포되지 않습니다. 해당 Qwen/Qwen-Image-2.1 저장소에는 license: other가 license_name: qwen-research와 함께 명시되어 있으며, LICENSE 파일은 Qwen Research License Agreement로, 공개일은 2026년 9월 20일입니다. 2026년 10월 13일에 전문을 확인한 결과, 그 실질적인 허여는 비독점적이고 전 세계적이며 양도 불가능하고 로열티 없는 라이선스로서, "오직 비상업적 목적에 한해 Materials를 사용, 복제, 배포, 복사, 2차적 저작물을 작성 및 수정"할 수 있게 하는 것이며, "비상업적"은 협약 내에서 "연구 또는 평가 목적으로만"으로 정의되고, 상업적 사용은 협약에서 명시한 주소로 이메일을 보내 요청하는 별도의 라이선스로 안내됩니다.

양자화된 체크포인트는 해당 자료들의 2차적 저작물입니다. 즉, GGUF의 재배포는 해당 계약에 따른 재배포이며, 그에 부과된 모든 조건을 함께 적용받는다는 뜻입니다. 그중 세 가지는 구체적입니다:

• 귀하는 이 계약을 함께 전달해야 합니다. 제3조(a)항은 자료나 그 파생물을 받는 사람 누구에게나 라이선스 사본을 제공하도록 요구합니다. 라이선스 태그만 있고 계약 텍스트가 없는 GGUF 저장소는 다운로드 수가 얼마이든 규정을 준수하지 못합니다.

• 변경한 내용을 표시해야 합니다.섹션 3(b)는 수정된 파일에 변경되었음을 명시하는 눈에 띄는 고지를 포함할 것을 요구합니다. 재인코딩된 가중치 파일은 수정된 파일입니다.

• 귀하는 저작자 표시 고지를 그대로 포함해야 합니다. 제3조(c)항은 해당 고지 문구 — "Qwen is licensed under the Qwen RESEARCH LICENSE AGREEMENT, Copyright (c) 2026 Hangzhou Tongyi Laboratory Technology Co., Ltd. All Rights Reserved." — 를 사본과 함께 배포되는 "Notice" 텍스트 파일에 유지할 것을 요구합니다.

두 가지 추가 규칙이 양자화를 수행하는 사람과 그 결과를 기반으로 개발하는 모든 사람을 구속합니다. 자료 또는 그 출력물을 사용하여 AI 모델을 학습, 미세 조정 또는 개선한 후 이를 배포하는 경우, 제품 문서에 "Built with Qwen" 또는 "Improved using Qwen"을 눈에 띄게 표시해야 합니다. 또한 "Qwen"을 파생 저작물의 기본 이름이나 식별자로 사용할 수 없지만, "fine-tuned from Qwen Image"와 같은 설명적 사용은 허용됩니다. 준거법은 중국법이며, 항저우 인민법원이 전속 관할권을 갖습니다.

실질적인 결론은 한 줄이며, 형식이 그것을 가리기 때문에 분명히 말할 가치가 있다: 가중치를 양자화한다고 해서 라이선스가 바뀌지는 않는다. 이 페이지를 위해 조사한 모든 저장소에는 license_name: qwen-research가 붙어 있고 벤더의 LICENSE 파일로 다시 연결되며, GGUF 파일의 다운로드 수는 상업적 권리를 부여하는 것이 아니다. 이와 대조적으로, 앞선 Qwen 이미지 계열은 허용적이었다 — 다음 모델들의 모델 카드는Qwen-Image, Qwen-Image-Edit, Qwen-Image-Edit-2511 및 Qwen-Image-2512모두 apache-2.0으로 표기되어 있었다 — 2026년 10월 13일 기준 — 그리고 Qwen-Image-2.1이 바로 그 패턴이 깨지는 지점이다. 상업적 파이프라인이 목표라면, 라이선스는 가장 먼저 읽어야 할 것이지 마지막에 읽을 것이 아니다.

이 상황이 당신에게 의미하는 바

요약이 아니라 결정으로 말하자면: 카드가 14.23 GB 트랜스포머 + 17.53 GB 인코더 + VAE를 담을 수 없다면, GGUF 빌드가 Qwen-Image-2.1을 아예 실행하는 유일한 방법이며, 솔직한 기대는 중간 수준 양자화가 실행을 가능하게 해 주는 대신 세부 묘사, 손, 작은 텍스트, 지시 따르기에서 무언가를 희생시킨다는 것입니다 — 그 희생이 얼마나 큰지 알려 주는 공개된 측정치는 없습니다. 카드가 그것을 담을 수 있다면, safetensors 경로가 벤더가 문서화한 방식이며 정의된 참조가 있는 방식입니다.

이 사이트의 다른 곳에서 두 독자에게 각각 한 문장씩 필요합니다. 당신이 실제로 원하는 것이 형식에 대한 논의가 아니라 안전 필터링이 제거된 커뮤니티 빌드라면, 그건 다른 페이지이며 무검열 빌드는 거기에서 다룹니다. 그리고 당신의 진짜 목적지가 손으로 조립해야 하는 파일이 아니라 작동하는 노드 그래프라면, ComfyUI 페이지가 로더 하나하나씩 전체 파이프라인을 안내합니다.

아직 열려 있는 것은 생태계가 공개하지 않은 한 가지다: 고정된 시드에서, 동일한 프롬프트와 동일한 샘플러를 사용해, 누군가가 구체적으로 밝힌 하드웨어에서 이 수준들을 통제 비교한 결과다. 일반적인 Q4_K_M은 INT8 기준 대비 눈에 띄게 성능이 저하된 반면 같은 라벨의 혼합 정밀도 빌드는 그렇지 않았다는 RealRebelAI의 언급이 공개된 자료 중 그 답에 가장 가까운 것이며, 그것은 한 퍼블리셔 자신의 A/B 테스트다. 누군가 그 비교를 공개할 때까지, 당신이 선택해야 할 수준은 메모리가 허용하는 가장 높은 수준이며, 파일 이름에 붙은 라벨은 그 뒤에 있는 텐서 정책보다 약한 보장이다.