私有大模型DeepSeek-R1本地搭建
第一步:下载安装Ollama
Ollama:可以理解为是docker,快速安装各种大模型,下载后一键安装
下载地址: https://ollama.com
第二步:执行命令安装deepseek-r1
ollama run deepseek-r1:14b
这里你可以搜索自己想安装的模型,获取不同的命令
第三步:输入问题AI回答
安装完成后,提示输入信息
好了,就这么简单,搭建私服AI完成。
查看本地安装了哪些AI大模型命令
ollama list

第四步:如何对接jeecgboot
修改jeecgboot的yml文件,改成如下配置,这样就对接了本地私有化的AI模型。
jeecg:
# AI集成
ai-chat:
enabled: true
model: deepseek-r1:14b
apiKey: ollama
apiHost: http://localhost:11434
timeout: 60
提问,发现回复多了个<think>
标签,说明对接成功