
LLM相关技术名词备忘
蒸馏 简单理解为从其他模型如Qwen 7B中提取知识来训练自己,旨在减小模型大小,提供更高效的推理能力。 LLM LLM(Large Language Model )大语言模型 量化 在深度学习中,模型的权重和激活值通常使用高精度的浮点数表...
蒸馏 简单理解为从其他模型如Qwen 7B中提取知识来训练自己,旨在减小模型大小,提供更高效的推理能力。 LLM LLM(Large Language Model )大语言模型 量化 在深度学习中,模型的权重和激活值通常使用高精度的浮点数表...