本地模型推理

记录如何使用网上大模型在本地建立对话功能。

若无特殊需求，建议使用在线大模型，性能更强，界面更美观。

模型：Qwen2.5-7B-Instruct

---

转载请注明来源，欢迎对文章中的引用来源进行考证，欢迎指出任何有错误或不够清晰的表达。