TP : quantization 4-bit d'un LLM

Quantizer Mistral-7B en AWQ, GPTQ et GGUF Q4KM, comparer perplexité et vitesse d'inférence, livrer un rapport chiffré validant le meilleur format pour un cas cible.