ollama从huggingface拉取本仓库中没有的模型

张开发
2026/5/6 15:20:36 15 分钟阅读
ollama从huggingface拉取本仓库中没有的模型
本文介绍一下如何使用ollama拉取huggingface中的模型。ollamaollama的模型仓库并不全比如有的垂直领域模型比如各种量化的版本ollama都不是很全比如我想要搜索fdtn-ai出的模型在ollama搜索是没有结果的如下这个时候需要到huggingface去寻找。huggingfacehuggingface作为LLM的仓库具有几乎所有的开源模型对应的连接为这里如下huggingface作为专业的模型仓库不仅模型全面而且对于模型的描述也是更加的详细搜索fdtn-ai出的模型如下huggingface能搜到fdtn-ai出的所有模型而且给出了该模型的基础模型以及各种量化的版本可以根据需要进行选择。例如我选择q4的量化版本该版本支持ollama部署因此选择使用该模型如下则弹出如下的命令ollama run hf.co/fdtn-ai/Foundation-Sec-8B-Reasoning-Q4_K_M-GGUF:Q4_K_M到命令行执行该命令如下参考连接详见这里。本文简单介绍了vscode如何从huggingface拉取模型后续更多的关于AI方面的介绍将在后续我的专栏《AI安全》专栏详细说明见这里。

更多文章