Mise à niveau
Mettez à jour l’outil en ligne de commande, puis le serveur.
pipx upgrade fadenstack
faden upgradeCommencer
D’un serveur vierge à la première réponse.
Un serveur Linux fait tourner Fadenstack et n’a besoin d’aucun GPU. Vos machines GPU s’ajoutent depuis la console.
$ pipx install fadenstack
$ faden deployuv tool install fadenstack fonctionne aussi. Ajoutez -y à faden deploy pour une installation sans intervention.
Quatre étapes
Installer, connecter, choisir, inviter.
$ pipx install fadenstack
$ faden deploy
✓ Docker and Compose v2 found
✓ Configuration written # clés aléatoires et mots de passe des bases de données
✓ HTTPS with a certificate for this server
✓ Services started
Console https://ai.example.internal
API https://ai.example.internal/v1# la ligne de Machines → Ajouter une machine
$ curl -fsSLO https://ai.example.internal/api/install/faden-agent.sh \
&& sudo sh faden-agent.sh --join https://ai.example.internal
✓ NVIDIA GPU found
✓ Agent running as a service
… Waiting for approval. Code on this machine: K7Q-4TD
✓ Approved in the console. Joined as gpu-01Rechercher sur Hugging Face › modèles de chat
an-open-chat-model
✓ Tient sur votre cluster : 2 machines, 2 GPU
Réglages remplis pour ce modèle
Proposé sous team-assistant
[ Héberger ]# le chat
https://ai.example.internal
# les agents : Chrome, Word, Excel, PowerPoint, Outlook
Serveur https://ai.example.internal
# vos applications : tout client OpenAI
base_url "https://ai.example.internal/v1"Prérequis
Ce qu’il vous faut.
Le serveur et les machines GPU sont des ordinateurs distincts. Une petite équipe peut commencer avec un serveur et une machine GPU.
| Élément | Le serveur | Chaque machine GPU |
|---|---|---|
| Système d’exploitation | Linux, x86_64 | Linux, x86_64, ou un NVIDIA DGX Spark (aarch64) |
| Logiciels | Docker Engine 24 ou version ultérieure avec Compose v2 ; Python 3.12 ou version ultérieure | Docker ou Podman avec accès au GPU (pour Docker, le NVIDIA Container Toolkit), et systemd |
| GPU | Aucun | Un GPU NVIDIA avec un pilote fonctionnel |
| CPU et mémoire | Au moins 4 cœurs et 6 Go, ou 8 Go avec le module de confidentialité, les serveurs MCP et les compétences. 8 cœurs et 8 à 12 Go recommandés. | Selon les besoins des modèles que vous exécutez |
| Disque | Au moins 60 Go ; 100 Go ou plus recommandés, plus l’espace pour les modèles | Environ 15 Go pour l’image de l’environnement d’exécution, plus les modèles qu’elle exécute |
| Réseau | Ports 80 et 443 libres | Joint le serveur. Le serveur joint la machine principale d’un cluster sur son port de service, et les machines d’un cluster se joignent entre elles. Les machines sans Internet reçoivent l’environnement d’exécution et les modèles depuis le serveur. |
Après l’installation
Le maintenir en marche.
Sauvegarde et restauration
Une commande pour chacune, pour les bases de données et la configuration. La restauration est encore en cours de test.
faden backup
faden restore <dir>Le guide complet
HTTPS avec votre propre certificat, d’autres machines, les clusters, les mises à niveau et les sauvegardes, étape par étape.
Vous préférez d’abord regarder ?
Une vidéo de sept minutes, d’un serveur vierge au premier chat et au premier appel d’API.