1.双击打开。(安装包末尾获取)
2.双击安装 Ollama(支持 M 系列和 Intel 系列 CPU)。
选择【Move to Applications】,然后点击 Next 完成安装即可。
二、下载DeepSeek R1模型
1、点击模型
输入 ollama run + 模型名称
,然后按回车键开始下载。
(根据下方附图中的硬件要求选择下载一个或多个模型。此过程可能会稍慢,如果下载失败,请重新输入命令再次尝试。)
如下所示:
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
2、根据自己的电脑配置选择模型(附上配置参考图片)
3、我这里选择的是8B的版本模型(大小为4.9G)进行测试,然后打开终端复制8B的这段代码
ollama run nomic-embed-text
在终端新窗口中输入命令ollama run nomic-embed-text回车下载nomic-embed-text嵌入式模型(后面做数据投喂会用到)。
温馨提示:若是要删除模型,输入命令ollama rm+模型名称,如ollama rm deepseek-r1:14b
5.双击打开 AnythingLLM(根据电脑芯片选择 ARM 或 Intel 版安装包),将 AnythingLLM 拖入 Applications 文件夹完成安装。
6. 启动台找到AnythingLLM打开
7. 点击【Get started】。
8. 点击箭头,进入下一步。
9. 输入工作区名称,点击箭头继续。
10. 点击【设置】,在其中可以设置模型、界面显示语言等选项。
设置中文
1. 在软件设置中的 LLM首选项 界面,选择提供商为 Ollama,在 Ollama Model 中选择前面下载的 DeepSeek-R1 系列模型,点击 Save changes 保存更改。
2. 在 Embedder首选项 界面,选择嵌入引擎提供商为 Ollama,在 Ollama Embedding Mode 中选择 nomic-embed-text,然后点击 保存更改。
3. 点击 工作区设置,在 聊天设置 界面:
❶ 将 工作区LLM提供商 选择为 Ollama,
❷ 将 工作区聊天模型 选择为 deepseek-r1,
❸ 然后点击 Update workspace agent 更新工作区代理。
本文系作者在时代Java发表,未经许可,不得转载。
如有侵权,请联系nowjava@qq.com删除。