做网站公众号多少钱,专业品牌营销策划,教人做策划的网站,lumen wordpressollama 在 Linux 环境的安装
介绍
他的存在在我看来跟 docker 的很是相似#xff0c;他把市面上已经存在的大语言模型集合在一个仓库中#xff0c;然后通过 ollama 的方式来管理这些大语言模型
下载
# 可以直接通过 http 的方式吧对应的 shell 脚本下载下来#xff0c;然…ollama 在 Linux 环境的安装
介绍
他的存在在我看来跟 docker 的很是相似他把市面上已经存在的大语言模型集合在一个仓库中然后通过 ollama 的方式来管理这些大语言模型
下载
# 可以直接通过 http 的方式吧对应的 shell 脚本下载下来然后执行即可
curl -fsSL https://ollama.com/install.sh | sh配置为 Linux 的服务
把他配置一个服务的时候我们可以很方便的管理并且允许他在后台运行也可以允许他可以跟我们的系统一起启动
# /etc/systemd/system/ollama.service
[Unit]
DescriptionOllama Service
Afternetwork-online.target[Service]
ExecStart/l/ollama/bin/ollama serve
Restartalways[Install]
WantedBydefault.target启动
上面我们配置以后就可以直接使用 systemctl 来启动了 systemctl start ollama.service 启动成功以后就可以使用 ollama 来管理了。
使用 ollama
他的使用也是和 docker 十分的类似如果有 docker 的使用经验那么如果上手使用 ollama 简直十分容易
下载一个模型
ollama run granite3-moe:1b启动一个模型
ollama run granite3-moe:1b启动成功以后就可以直接进去其中了并且我们可以见到问他一些问题他可以回复我们。 删除一个模型
ollama rm qwen2.5:0.5b查询我们安装的所有模型
ollama list
