系统与硬件选型:Debian、Proxmox、fnOS、TrueNAS 还是 Flatcar?
家庭 AI 服务器没有唯一正确答案。按硬件兼容性、GPU 直通、存储、更新策略、学习曲线和备份方式比较常见系统,给出可执行的选型顺序。
选你能维护的,不是选最强的
家庭服务器的系统会陪你很久。选型时先回答四个问题:
- 这台机器主要跑什么? 只跑容器、还要跑虚拟机、还是要做 NAS?
- 有没有 GPU? 需不需要直通、多卡、特定驱动?
- 数据有多重要? 能不能接受重装,备份在哪里?
- 你愿意花多少时间维护? 每周更新,还是半年动一次?
下面是常见的几类方案。没有“最好”,只有合不合适。
方案对比
| 方案 | 适合 | 不适合 | 关键注意点 |
|---|---|---|---|
| Debian / Ubuntu Server | 想从干净系统开始,自己控制一切 | 不想碰命令行 | 驱动、Docker、防火墙都要自己装 |
| Proxmox VE | 一台机器跑多台虚拟机/容器,需要快照和备份 | 只想跑一个容器 | GPU 直通、存储和网络需要规划 |
| fnOS | 想要 NAS 界面 + 应用市场,少折腾 | 需要高度定制或特殊内核 | 确认应用兼容性、数据导出方式 |
| TrueNAS SCALE | 以存储为核心,同时跑容器/虚拟机 | 把 ZFS 当普通 ext4 用 | 内存建议、磁盘布局、快照策略 |
| Unraid | 混合容量磁盘、媒体库、逐步扩容 | 追求最高随机 IO 或严格 RAID | 阵列校验、缓存盘、备份 |
| Flatcar / Fedora CoreOS | 只跑容器、希望系统不可变、自动更新 | 需要频繁改宿主系统 | 配置通过 ignition/butane,调试方式不同 |
| Windows + WSL2 | 主要用 Windows,偶尔跑 Linux 工具 | 长期无人值守服务 | 睡眠、更新重启、GPU 直通限制 |
逐个数
Debian / Ubuntu Server
最稳的起点。软件包多、文档多、社区大。你需要自己决定分区、Docker、防火墙、自动更新和备份。
适合:愿意学、希望系统透明、以后可能换方案。
注意:Ubuntu 的自动更新和 Snap 行为要提前了解;Debian 的软件包版本较旧,GPU 驱动可能需要额外源。
Proxmox VE
基于 Debian,提供虚拟机、LXC、快照、备份和 Web 管理。对“一台机器跑很多角色”很合适。
适合:想把 NAS、模型、监控、测试环境隔开;需要快照回滚。
注意:
- GPU 直通需要 IOMMU、VFIO 和正确的驱动,不是勾选一下就行。
- ZFS 会吃内存,容量规划要留余量。
- 备份要落到另一块盘或网络存储,不要只放本机。
fnOS
偏向 NAS 使用体验,带应用市场和图形界面,适合不想天天敲命令的人。
适合:家庭文件共享、照片备份、少量应用。
注意:确认你需要的容器/模型运行时是否被支持;确认数据目录结构和导出方式,避免以后迁移困难。
TrueNAS SCALE
以 ZFS 存储为核心,同时支持容器和虚拟机。数据完整性、快照和复制是强项。
适合:数据优先、需要长期保存和校验。
注意:ZFS 需要足够内存;RAID 不是备份;扩容和替换磁盘要按流程做。
Unraid
擅长混合容量磁盘和逐步扩容,媒体库场景很常见。
适合:一块块加盘、希望单盘故障不影响其他盘的数据。
注意:阵列校验盘会限制写入性能;缓存盘和备份策略要单独设计。
Flatcar / Fedora CoreOS
不可变系统,主要通过容器运行应用,更新由系统管理。
适合:只跑容器、希望主机尽量少改、能接受配置即代码。
注意:调试方式和传统发行版不同;需要学习 ignition/butane;不是所有驱动都开箱即用。
Windows + WSL2
适合以 Windows 为主、偶尔跑 Linux 工具或小模型。
不适合:需要长期在线、GPU 直通、稳定服务的场景。Windows 更新重启、睡眠策略和 WSL 的资源限制都会影响可用性。
GPU 与容器运行时
无论选哪个系统,GPU 跑容器通常需要:
- 正确的显卡驱动。
- 容器运行时能访问设备(NVIDIA Container Toolkit 或对应方案)。
- 应用镜像里有所需的 CUDA/ROCm 版本。
- 权限和资源限制配置正确。
验证顺序:
nvidia-smi
docker run --rm --gpus all nvidia/cuda:12.9.2-base-ubuntu24.04 nvidia-smi
镜像 tag 按你的驱动和发行版选,上面的 12.9.2 只是示例;换 tag 前先确认它在 NVIDIA 的镜像仓库里存在。宿主机能看到 GPU、容器里看不到,先查运行时配置,不要先怀疑模型。
磁盘布局
一个实用的默认布局:
- 系统盘:小容量 SSD,独立于数据。
- 数据盘:单独挂载,记录 UUID,不依赖设备名。
- 缓存/临时:单独目录,定期清理。
- 备份:另一块盘或网络位置,定期恢复演练。
不要把所有东西放在一个分区里。模型、镜像、数据库和备份的增长速度不同,混在一起很难管理。
网络规划
- 给服务器固定内网 IP 或 DHCP 保留。
- 内网域名和公网域名分开,避免测试流量走公网。
- 需要远程访问时优先 Tunnel/VPN,不做无必要的端口映射。
- 记录每台机器的 MAC、IP、用途和负责人。
安装顺序
- 更新 BIOS/固件,确认硬盘和内存识别正常。
- 决定系统盘和数据盘,先不急着导入旧数据。
- 安装系统,配置固定 IP 和 SSH。
- 配置驱动和容器运行时,验证 GPU。
- 配置存储、快照和备份。
- 部署第一个服务,确认重启后能自动恢复。
- 加监控和告警,再逐步迁移其他服务。
常见错误
- 把数据盘做成系统盘,重装时一起格式化。
- 在 NAS 上跑不兼容的容器,出问题后无法定位。
- 只做 RAID 不做备份;RAID 不能防误删和勒索。
- 更新前不做快照,更新后无法回滚。
- 把测试环境暴露到公网,忘了关调试接口。
相关笔记
- 网络和安全底线:网络安全基础。
- 域名、Pages、Workers 和 Tunnel:Cloudflare 基础。
- 判断硬件:回首页做一次资源评估。