标签：AI

蒸馏 简单理解为从其他模型如Qwen 7B中提取知识来训练自己，旨在减小模型大小，提供更高效的推理能力。 LLM LLM（Large Language Model ）大语言模型 量化 在深度学习中，模型的权重和激活值通常使用高精度的浮点数表...