第0篇：本地 AI 是什么？为什么值得自己装？

在 上张贴 由 yuanxujia发表回复

⏱️ 阅读时间：约 10 分钟
🎯 本节你将学会：本地 AI 是什么、你的电脑能不能跑、学完后能做什么

一句话解释

本地 AI = 把 AI 装在你自己的电脑上，不用联网也能用。

在线 AI 像”租房子”——按月交租（付费订阅）、遵守物业规定（内容审核、字数限制）。本地 AI 像”自己买房”——一次性投入，想怎么装修怎么装修，没人管你。

和 ChatGPT / Claude 在线版有什么区别？

对比项ChatGPT / Claude（在线版）本地 AI（自己装）
联网必须联网❌ 不需要，断网也能用
费用高级版每月约 ¥40-300✅ 完全免费（模型开源）
隐私对话数据经过云端服务器✅ 数据只在你电脑上，别人看不到
限制有字数限制、内容审核✅ 无限制（自己电脑自己说了算）
速度快，但高峰期可能排队⚠️ 取决于你的电脑配置
能力最新最强模型≈ 云端模型的 60-70%（同级别参数）

💡 简单理解：在线版像”去餐厅吃饭”——不用自己做饭，但要花钱、要看菜单；本地版像”自己买菜做饭”——免费、想做什么做什么，但要自己动手。

真实案例：别人用它做了什么？

案例1️⃣：自媒体人批量写文案，选题、草稿本地模型能搞定

就我个人而言，本地模型去做选题、内容草稿的工作，避免云端模型Token消耗在这种“体力活”上， 云端模型负责检查、审阅、事实澄清。
例如我自己

案例2️⃣：我出差在高铁上写代码

前几个月我从北京坐高铁去上海，旁边大哥在刷剧，我打开终端连上本地 AI 继续改 bug。没有 WiFi？无所谓。本地 AI 的好处就是，不管你在飞机上、地铁里还是山里，它都在那。

案例3️⃣：本地模型整理笔记

通过llm-wiki 使用本地模型整理笔记是够了，不需要复杂推理也没必要使用云端模型，本地模型整理大量笔记还是很实用的。

案例4️⃣：我自己做系列配图

写这个系列的时候，我所有配图都是本地 ComfyUI 生成的，使用本地模型阅读文案然后生成图片提示词。客户案例图、架构图、示意图，全部在本地跑完，不上传任何第三方服务。隐私？这就是本地 AI 的核心卖点。

你的电脑能不能跑？

Mac 用户检查方法

  1. 点击左上角 苹果图标 → 关于本机
  2. 查看以下信息：
你的电脑配置能跑什么？
M1 / M2 / M3 / M4 芯片（任何型号）✅ 可以！Apple Silicon 芯片是跑本地 AI 的最佳选择
Intel 芯片 + 16GB 内存以上⚠️ 可以，但速度较慢
Intel 芯片 + 8GB 内存以下❌ 不太推荐，体验较差

怎么知道自己是哪种芯片？

  • 如果”关于本机”里显示 Apple M1/M2/M3/M4 → 恭喜，你是最佳配置
  • 如果显示 Intel Core i5/i7/i9 → 需要看内存大小（见上表）

Windows 用户检查方法

  1. 按 Win + Pause 或右键 此电脑 → 属性
  2. 查看处理器和内存信息
你的电脑配置能跑什么？
16GB 内存 + NVIDIA 显卡（16GB+ 显存）✅ 可以，体验不错
8GB 内存以下❌ 不太推荐

💡 一句话总结：如果你的电脑是近 3-4 年买的，大概率能跑。实在不确定？先装第2篇的 Ollama，跑不起来再说。

学完这个系列，你能做什么？

学习路线需要几篇学完后你会…
🗣️ 只想免费 AI 聊天第0→1→2→3篇（4篇）在电脑上和 AI 自由对话，不用花钱、不用联网
💻 想让 AI 帮你写代码第0→1→2→3→4篇（5篇）让 AI 当你的编程助手，自动补全、查 bug
🤖 想让 AI 自动干活第0→1→2→3→4.5→5→6→7篇（8篇）搭建 AI 工作流，让 AI 帮你完成复杂任务
📊 还想用 AI 做 PPT上面 + 第8篇从文档一键生成演示文稿
🎨 还想本地生图上面 + 第10篇用文字描述生成图片

🎯 自由退出原则：不需要全部学完！每个终点都是一个完整的技能包。想聊天就学到第3篇，想写代码就多学1篇，想自动化就继续往下。

这个系列适合谁？

✅ 适合：

  • 会用浏览器、会装软件、会打字
  • 对 AI 感兴趣但不知道从哪开始
  • 不想花钱用 ChatGPT 高级版
  • 在意隐私，不想把数据传给云端

❌ 不适合：

  • 期望本地模型和 ChatGPT-4o 完全一样（本地模型 ≈ 云端 60-70% 水平）
  • 电脑配置非常老旧（10年前的笔记本）
  • 不想动手操作，希望有人帮你装好

配套资源

本系列所有文章、工具安装包、模型合集、配置文件模板，都可以通过以下方式获取：

📦 配套资源：[待补充网盘链接]
💬 交流群：[待补充群二维码]

下一步

👉 第1篇：零基础认识本地 AI 工具

  • 听懂 AI 圈的基本行话
  • 认识主流工具，知道该选哪个
  • 对本地 AI 能力有合理预期

本节成果

  • ✅ 你知道本地 AI 是什么了
  • ✅ 你知道自己的电脑能不能跑
  • ✅ 你知道了学完后能做什么
  • ✅ 你有了清晰的阅读路线图

参考来源

  1. Ollama 官网：https://ollama.com
  2. LM Studio 官网：https://lmstudio.ai
  3. Dify 官网：https://dify.ai
  4. ComfyUI 官网：https://comfy.org
  5. Qwen3 发布博客：https://qwen.ai/blog
  6. Ollama 模型库（Qwen3）：https://ollama.com/library/qwen3

首发公众号： 圆点 Agent 栈

原文：本地 AI 是什么？为什么值得自己装？

发表回复