Quel matériel as-tu besoin
pour ton serveur MeigaHub ?

Oui. MeigaHub permet d'utiliser des APIs cloud (OpenAI, Mistral, Groq) sans serveur propre. Vous pouvez également exécuter des modèles petits (3-4B) en CPU pure pour les tests. Le serveur LLM local n'est obligatoire que lorsque vous souhaitez une totale confidentialité et supprimer le coût par token.

MeigaHub-server fonctionne dans les deux cas. Windows 10/11 avec CUDA est la solution la plus rapide pour démarrer. Linux Ubuntu 22.04+ est la plus stable pour la production 24/7. Quel que vous choisissiez, la connexion à MeigaHub est via Tailscale.

Nous recommandons NVIDIA (CUDA) en raison de la compatibilité et du rendement. AMD ROCm fonctionne sous Linux avec les modèles llama.cpp, mais le support est plus fragile. Intel Arc n'est pas encore prêt pour la production pour les LLMs importants. Si vous investissez, mieux vaut NVIDIA.

Oui. MeigaHub-server prend en charge le parallélisme des tenseurs et la division des modèles entre 2-4 GPUs. Cela vous permet de charger Llama 70B sur 2×RTX 4090 (24 Go chacune). Vous pouvez également enregistrer plusieurs serveurs dans MeigaHub et le routage les équilibre automatiquement en fonction de la priorité et de la charge.

Tu seule nécessité est une connexion Internet sortante (egress) — il n'est pas nécessaire d'ouvrir de port sur le routeur. MeigaHub-server se connecte à la tailnet privée de MeigaHub via Tailscale, donc même sans adresse IP fixe. Fonctionne derrière le NAT et le CGNAT.

Si tu configures des API cloud en rechange en ton compte MeigaHub, l'agent continue de fonctionner sans ton serveur local (en payant par token). Si tu dépend uniquement du local, les tâches sont redémarrées automatiquement lorsque tu es en ligne à nouveau. Pour la production, nous recommandons un mini-PC dédié ou un ordinateur de bureau toujours allumé.