← 返回首页

一分钱不花，本地跑 AI 编程（开源教程）

AI开源教程

不想花钱？完全理解。这套方案让你零成本体验 AI 编程。

你需要什么

  • 一台普通电脑（8G 内存就够，16G 更好）
  • 20GB 以上磁盘空间（模型文件比较大）
  • 10 分钟时间

第一步：安装 Ollama

Ollama 是本地运行大模型的最简方案，一行命令搞定：

# macOS / Linux
curl -fsSL https://ollama.ai/install.sh | sh

# Windows
# 去 https://ollama.ai 下载安装包

安装完后验证：

ollama --version

第二步：拉取编程模型

# 推荐：Qwen2.5-Coder 7B（编程专用，4.7GB）
ollama pull qwen2.5-coder:7b

# 备选：DeepSeek-Coder 6.7B（3.8GB，更省内存）
ollama pull deepseek-coder:6.7b

# 显卡好的可以试 14B 版本
ollama pull qwen2.5-coder:14b

第三步：启动 Web UI

命令行对话体验不好，装个 Web 界面：

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

没有 Docker？先装一个：

# Ubuntu/Debian
curl -fsSL https://get.docker.com | sh

# macOS
# Docker Desktop: https://docker.com/products/docker-desktop

打开 http://localhost:3000，选择模型，开始对话。

效果怎么样？

实测下来：

  • 写 CRUD、表单、API 调用：完全够用
  • 调试排错、解释代码：90% 场景 OK
  • 复杂架构设计：还是得用云端大模型

总的来说，80% 的日常编码场景都能覆盖。省下的订阅费够吃几个月外卖了。

进阶：连接 VS Code

装 Continue 插件，配置 Ollama 作为后端，就能在 VS Code 里直接用本地模型写代码，体验跟 Copilot 差不多。