开始使用

从一台空服务器到第一个回答。

一台 Linux 服务器运行 Fadenstack，不需要 GPU。您的 GPU 机器从控制台加入。

$ pipx install fadenstack
$ faden deploy

也可以使用 uv tool install fadenstack。为 faden deploy 加上 -y 即可无人值守安装。

四个步骤

安装、连接、挑选、邀请。

服务器 · bash

$ pipx install fadenstack
$ faden deploy
✓ Docker and Compose v2 found
✓ Configuration written  # 随机密钥和数据库密码
✓ HTTPS with a certificate for this server
✓ Services started

  Console  https://ai.example.internal
  API      https://ai.example.internal/v1

GPU 机器 · bash

# 来自“机器 → 添加机器”的命令
$ curl -fsSLO https://ai.example.internal/api/install/faden-agent.sh \
    && sudo sh faden-agent.sh --join https://ai.example.internal
✓ NVIDIA GPU found
✓ Agent running as a service
… Waiting for approval. Code on this machine: K7Q-4TD
✓ Approved in the console. Joined as gpu-01

控制台 · 模型市场

搜索 Hugging Face › 聊天模型

an-open-chat-model
  ✓ 适配您的集群：2 台机器，2 块 GPU
  设置       已按此模型填好
  提供名称   team-assistant

                                 [ 托管 ]

您的同事

# 聊天
  https://ai.example.internal

# 智能体：Chrome、Word、Excel、PowerPoint、Outlook
  服务器   https://ai.example.internal

# 您的应用：任何 OpenAI 客户端
  base_url "https://ai.example.internal/v1"

系统要求

所需条件。

服务器和 GPU 机器是不同的计算机。小团队可以从一台服务器和一台 GPU 机器开始。

项目	服务器	每台 GPU 机器
操作系统	Linux，x86_64	Linux，x86_64，或 NVIDIA DGX Spark（aarch64）
软件	Docker Engine 24 或更高版本，带 Compose v2；Python 3.12 或更高版本	可访问 GPU 的 Docker 或 Podman（使用 Docker 时需要 NVIDIA Container Toolkit），以及 systemd
GPU	不需要	一块驱动正常工作的 NVIDIA GPU
CPU 和内存	至少 4 核和 6 GB；启用隐私模块、MCP 服务器和技能时需 8 GB。推荐 8 核和 8 到 12 GB。	视所运行模型的需要而定
磁盘	至少 60 GB；推荐 100 GB 或以上，另加模型所需空间	运行时镜像约 15 GB，另加所运行的模型
网络	端口 80 和 443 未被占用	能访问服务器。服务器通过服务端口访问集群的头节点机器，集群中的机器之间能相互访问。无法联网的机器从服务器获取运行时和模型。

安装之后

保持运行。

升级

先更新命令行工具，再更新服务器。

pipx upgrade fadenstack
faden upgrade

备份与恢复

数据库和配置，各一条命令。恢复功能仍在测试中。

faden backup
faden restore <dir>

完整指南

使用您自己证书的 HTTPS、更多机器、集群、升级和备份，逐步说明。

帮助：运维

想先看一看？

一段七分钟的视频，从一台空服务器到第一次聊天和第一次 API 调用。

观看：从安装到首个回答 GitHub 上的代码