标签归档：DeepSeek

[ByAIGC] Windows 从零装 AI 编程代理（四）：DeepSeek Harness

发表评论

说明：本文为 AIGC 辅助撰写整理，基于官方文档核实，供快速上手参考。具体细节以官方文档为准。

DeepSeek Harness（命令行 dsh）是 DeepSeek AI 开源（MIT）的代理框架，采用”一切皆插件”的架构，基于 Node.js。

注意：目前处于 developer preview（开发者预览），迭代很快，可能存在破坏性变更。适合尝鲜，生产使用需留意版本。

1. 前置要求

需要先装好 Node.js（见本系列第一篇）。无需额外安装 npm 全局包，直接用 npx 跑即可。

2. 启动 Web 界面

在项目目录下执行：

npx @deepseek-ai/dsh web

首次执行会下载并运行。成功后默认会在 http://127.0.0.1:3080 打开 Web UI，直接在浏览器里使用。

dsh 的形态和传统终端代理不同，它提供的是 Web UI，配置和管理大模型能力都通过浏览器完成。具体模型接入方式以官方 Web UI 引导与文档为准。

3. 从源码运行（可选）

想深入源码/二次开发：

git clone https://github.com/deepseek-ai/deepseek-harness.git
cd deepseek-harness
pnpm install
pnpm run build
pnpm dsh web

4. 获取帮助

搞定

npx @deepseek-ai/dsh web

然后打开浏览器访问本地 Web UI 即可。下一篇：Claude Code（Anthropic 官方）。

[Windows 从零搭建 AI 编程代理]

ArchLinux 快速本地部署 DeepSeek

发表评论

在 ArchLinux 下借助 Ollama 可以快速运行一个小参数体量的 DeepSeek 本地模型，在我的环境上 纯 CPU 推理也可以获得很快的体验。

安装环境

一行命令即可装好 ollama

$ sudo pacman -S ollama

模型

从 ollama 的 DeepSeek-R1模型页面 可以看到可拉取的模型，包括全量的 671b 模型，以及精炼的小模型表现同样出色。：

  • DeepSeek-R1
  • DeepSeek-R1-Distill-Qwen-1.5B
  • DeepSeek-R1-Distill-Qwen-7B
  • DeepSeek-R1-Distill-Llama-8B
  • DeepSeek-R1-Distill-Qwen-14B
  • DeepSeek-R1-Distill-Qwen-32B
  • DeepSeek-R1-Distill-Llama-70B

模型能力统计

运行

首先打开一个 终端，运行 ollama 服务端

$ ollama serve  
2025/02/18 14:57:36 routes.go:1187: INFO server config env="map[CUDA_VISIBLE_DEVICES: GPU_DEVICE_ORDINAL: HIP_VISIBLE_DEVICES: HSA_OVERRIDE_GFX_VERSION: HTTPS_PROXY: HTTP_PROXY: NO_PROXY: OLLAMA_DEBUG:false OLLAMA_FLASH_ATTENTION:false OLLAMA_GPU_OVERHEAD:0  
OLLAMA_HOST:http://127.0.0.1:11434 OLLAMA_INTEL_GPU:false OLLAMA_KEEP_ALIVE:5m0s OLLAMA_KV_CACHE_TYPE: OLLAMA_LLM_LIBRARY: OLLAMA_LOAD_TIMEOUT:5m0s OLLAMA_MAX_LOADED_MODELS:0 OLLAMA_MAX_QUEUE:512 OLLAMA_MODELS:/home/songtianlun/.ollama/models OLLAMA_MULTIU  
SER_CACHE:false OLLAMA_NOHISTORY:false OLLAMA_NOPRUNE:false OLLAMA_NUM_PARALLEL:0 OLLAMA_ORIGINS:[http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.  
0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:* app://* file://* tauri://* vscode-webview://*] OLLAMA_SCHED_SPREAD:false ROCR_VISIBLE_DEVICES: http_proxy: https_proxy: no_proxy:]"  
time=2025-02-18T14:57:36.900+08:00 level=INFO source=images.go:432 msg="total blobs: 11"  
time=2025-02-18T14:57:36.900+08:00 level=INFO source=images.go:439 msg="total unused blobs removed: 0"  
time=2025-02-18T14:57:36.900+08:00 level=INFO source=routes.go:1238 msg="Listening on 127.0.0.1:11434 (version 0.5.7)"  
time=2025-02-18T14:57:36.901+08:00 level=INFO source=routes.go:1267 msg="Dynamic LLM libraries" runners="[cpu cpu_avx cpu_avx2]"  
time=2025-02-18T14:57:36.901+08:00 level=INFO source=gpu.go:226 msg="looking for compatible GPUs"  
time=2025-02-18T14:57:36.944+08:00 level=INFO source=gpu.go:392 msg="no compatible GPUs were discovered"  
time=2025-02-18T14:57:36.944+08:00 level=INFO source=types.go:131 msg="inference compute" id=0 library=cpu variant=avx2 compute="" driver=0.0 name="" total="30.7 GiB" available="7.2 GiB"

不要关闭窗口，在另外一个 shell 窗口运行以下命令启动并使用 deepseek-r1:1.5b 模型：

$ ➜  ~ ollama run deepseek-r1:1.5b  
>>>    
Use Ctrl + d or /bye to exit.  
>>>    
Use Ctrl + d or /bye to exit.  
>>> hello  

<think>  

</think>  

Hello! How can I assist you today? 😊e  

>>>

也可以用 cherry-studio 之类的工具对接使用：

CherryStudio 配置截图

CherryStudio 运行截图

实测 1.5B 模型运行非常流畅，可根据实际情况同样的方法尝试其他更多模型。

其他操作

ollama 其他常用操作如下：

# 在命令行中运行模型
ollama run <模型名称>

# 列出可用模型
ollama list

# 查看模型状态
ollama ps

# 删除模型
ollama rm <模型名称>

# 启动 API 服务
ollama serve

更多详情参见各官网。

References