笔记

系统与硬件选型:Debian、Proxmox、fnOS、TrueNAS 还是 Flatcar?

家庭 AI 服务器没有唯一正确答案。按硬件兼容性、GPU 直通、存储、更新策略、学习曲线和备份方式比较常见系统,给出可执行的选型顺序。

选你能维护的,不是选最强的

家庭服务器的系统会陪你很久。选型时先回答四个问题:

  1. 这台机器主要跑什么? 只跑容器、还要跑虚拟机、还是要做 NAS?
  2. 有没有 GPU? 需不需要直通、多卡、特定驱动?
  3. 数据有多重要? 能不能接受重装,备份在哪里?
  4. 你愿意花多少时间维护? 每周更新,还是半年动一次?

下面是常见的几类方案。没有“最好”,只有合不合适。

方案对比

方案 适合 不适合 关键注意点
Debian / Ubuntu Server 想从干净系统开始,自己控制一切 不想碰命令行 驱动、Docker、防火墙都要自己装
Proxmox VE 一台机器跑多台虚拟机/容器,需要快照和备份 只想跑一个容器 GPU 直通、存储和网络需要规划
fnOS 想要 NAS 界面 + 应用市场,少折腾 需要高度定制或特殊内核 确认应用兼容性、数据导出方式
TrueNAS SCALE 以存储为核心,同时跑容器/虚拟机 把 ZFS 当普通 ext4 用 内存建议、磁盘布局、快照策略
Unraid 混合容量磁盘、媒体库、逐步扩容 追求最高随机 IO 或严格 RAID 阵列校验、缓存盘、备份
Flatcar / Fedora CoreOS 只跑容器、希望系统不可变、自动更新 需要频繁改宿主系统 配置通过 ignition/butane,调试方式不同
Windows + WSL2 主要用 Windows,偶尔跑 Linux 工具 长期无人值守服务 睡眠、更新重启、GPU 直通限制

逐个数

Debian / Ubuntu Server

最稳的起点。软件包多、文档多、社区大。你需要自己决定分区、Docker、防火墙、自动更新和备份。

适合:愿意学、希望系统透明、以后可能换方案。

注意:Ubuntu 的自动更新和 Snap 行为要提前了解;Debian 的软件包版本较旧,GPU 驱动可能需要额外源。

Proxmox VE

基于 Debian,提供虚拟机、LXC、快照、备份和 Web 管理。对“一台机器跑很多角色”很合适。

适合:想把 NAS、模型、监控、测试环境隔开;需要快照回滚。

注意:

  • GPU 直通需要 IOMMU、VFIO 和正确的驱动,不是勾选一下就行。
  • ZFS 会吃内存,容量规划要留余量。
  • 备份要落到另一块盘或网络存储,不要只放本机。

fnOS

偏向 NAS 使用体验,带应用市场和图形界面,适合不想天天敲命令的人。

适合:家庭文件共享、照片备份、少量应用。

注意:确认你需要的容器/模型运行时是否被支持;确认数据目录结构和导出方式,避免以后迁移困难。

TrueNAS SCALE

以 ZFS 存储为核心,同时支持容器和虚拟机。数据完整性、快照和复制是强项。

适合:数据优先、需要长期保存和校验。

注意:ZFS 需要足够内存;RAID 不是备份;扩容和替换磁盘要按流程做。

Unraid

擅长混合容量磁盘和逐步扩容,媒体库场景很常见。

适合:一块块加盘、希望单盘故障不影响其他盘的数据。

注意:阵列校验盘会限制写入性能;缓存盘和备份策略要单独设计。

Flatcar / Fedora CoreOS

不可变系统,主要通过容器运行应用,更新由系统管理。

适合:只跑容器、希望主机尽量少改、能接受配置即代码。

注意:调试方式和传统发行版不同;需要学习 ignition/butane;不是所有驱动都开箱即用。

Windows + WSL2

适合以 Windows 为主、偶尔跑 Linux 工具或小模型。

不适合:需要长期在线、GPU 直通、稳定服务的场景。Windows 更新重启、睡眠策略和 WSL 的资源限制都会影响可用性。

GPU 与容器运行时

无论选哪个系统,GPU 跑容器通常需要:

  1. 正确的显卡驱动。
  2. 容器运行时能访问设备(NVIDIA Container Toolkit 或对应方案)。
  3. 应用镜像里有所需的 CUDA/ROCm 版本。
  4. 权限和资源限制配置正确。

验证顺序:

nvidia-smi
docker run --rm --gpus all nvidia/cuda:12.9.2-base-ubuntu24.04 nvidia-smi

镜像 tag 按你的驱动和发行版选,上面的 12.9.2 只是示例;换 tag 前先确认它在 NVIDIA 的镜像仓库里存在。宿主机能看到 GPU、容器里看不到,先查运行时配置,不要先怀疑模型。

磁盘布局

一个实用的默认布局:

  • 系统盘:小容量 SSD,独立于数据。
  • 数据盘:单独挂载,记录 UUID,不依赖设备名。
  • 缓存/临时:单独目录,定期清理。
  • 备份:另一块盘或网络位置,定期恢复演练。

不要把所有东西放在一个分区里。模型、镜像、数据库和备份的增长速度不同,混在一起很难管理。

网络规划

  • 给服务器固定内网 IP 或 DHCP 保留。
  • 内网域名和公网域名分开,避免测试流量走公网。
  • 需要远程访问时优先 Tunnel/VPN,不做无必要的端口映射。
  • 记录每台机器的 MAC、IP、用途和负责人。

安装顺序

  1. 更新 BIOS/固件,确认硬盘和内存识别正常。
  2. 决定系统盘和数据盘,先不急着导入旧数据。
  3. 安装系统,配置固定 IP 和 SSH。
  4. 配置驱动和容器运行时,验证 GPU。
  5. 配置存储、快照和备份。
  6. 部署第一个服务,确认重启后能自动恢复。
  7. 加监控和告警,再逐步迁移其他服务。

常见错误

  • 把数据盘做成系统盘,重装时一起格式化。
  • 在 NAS 上跑不兼容的容器,出问题后无法定位。
  • 只做 RAID 不做备份;RAID 不能防误删和勒索。
  • 更新前不做快照,更新后无法回滚。
  • 把测试环境暴露到公网,忘了关调试接口。

相关笔记

有问题就发邮件。纠错、提问或者聊项目,都发到 [email protected]。本页也有 Markdown 版本:/zh/systems.md。