请问一下怎么用ollama部署到本地啊？
#3
by
greensmarttree12
- opened
请帮忙告知，你们的模型做出来也是给人用的吧，使用这么不便真的很难受
不好意思没有及时看到反馈~由于通古模型不在ollama远程仓库支持列表中，需要手动下载到本地导入，模型的下载地址如下：
https://huggingface.co/SCUT-DLVCLab/TongGu-7B-Instruct
https://hf-mirror.com/SCUT-DLVCLab/TongGu-7B-Instruct
第一个需要科学上网，第二个不需要。
下载到本地之后可以使用readme中的脚本运行，并把其中的模型路径换成你下载的本地路径。
或者使用ollama导入，推荐教程：https://blog.lumingbao.cn/archives/0yfr7ixs/，ollama github：https://github.com/ollama/ollama