Hermes Agent mit souveräner europäischer Inference selbst hosten
Jonas ScholzHermes Agent ist ein Open-Source AI Agent von Nous Research mit Tools, Skills, Memory, geplanten Tasks und mehreren Chat-Integrationen. Das Sliplane Preset gibt dir eine persistente Hermes Runtime samt Dashboard auf deinem eigenen Server. Melious AI GmbH liefert dazu OpenAI-kompatible Inference auf europäischer Infrastruktur.
Diese Aufteilung gibt dir mehr Kontrolle als ein komplett gehosteter Agent: Hermes Config, Memories, Skills, Sessions und Dateien bleiben in deinem Sliplane Volume. Model Prompts verlassen den Server weiterhin für die Inference, laufen aber über Melious' europäisches Netzwerk aus Open-Weight Model Providern. Das Setup ist souverän aufgebaut, aber nicht offline.
Voraussetzungen
Du brauchst:
- Einen Sliplane Account
- Einen Melious API Key aus dem Melious Dashboard
- Einen Sliplane Server mit mindestens 2 GB RAM; 4 GB sind ein besserer Startpunkt, wenn Hermes mehrere Tools oder Tasks parallel nutzt
Schritt 1: Hermes Preset deployen
Öffne das Preset:
Hermes Agent deployen >Wähl ein Projekt und einen Server aus. Ersetz vor dem Deploy den Platzhalter in OPENAI_API_KEY durch deinen Melious API Key. OPENAI_BASE_URL bleibt auf:
https://api.melious.ai/v1
Klick dann auf Deploy. Das Preset nutzt das offizielle docker.io/nousresearch/hermes-agent:latest Image und startet es mit gateway run.
Das Preset folgt absichtlich dem rollenden
latestImage aus dem aktuellen Hermes Docker Workflow. Für kontrollierte Production Updates solltest dulatestvor dem Deploy durch einen getesteten Release Tag ersetzen.
Schritt 2: Im Dashboard einloggen
Sobald der Health Check durchgeht, öffnest du die generierte sliplane.app Domain. Der Username ist admin.
Sliplane generiert bei jedem Deploy ein eigenes Dashboard-Passwort mit 24 Zeichen. Kopier HERMES_DASHBOARD_BASIC_AUTH_PASSWORD aus den Umgebungsvariablen des Services und nutz es für den Login. Die generierten Zugangsdaten bleiben im Dashboard sichtbar, damit du sie später wieder abrufen kannst.
Das Preset erstellt außerdem zwei unabhängige Secrets mit jeweils 32 Byte:
HERMES_DASHBOARD_BASIC_AUTH_SECRETsigniert Dashboard Sessions, damit dein Login Restarts überlebtAPI_SERVER_KEYschützt Hermes' OpenAI-kompatible API
Ersetz keinen der beiden Werte durch ein kurzes Passwort und nutz dafür nicht deinen Melious API Key.
Schritt 3: Melious Model auswählen
Geh im Hermes Dashboard zu Models → Change → OpenAI API. Endpoint und API Key stehen bereits über die Service-Umgebung bereit.
Wähl dein gewünschtes Model aus und speicher es als Default. Melious stellt seinen Katalog über die OpenAI-kompatible API bereit. Du kannst deshalb Models wechseln, ohne dein Hermes Deployment umzubauen. Im Melious Model Katalog findest du aktuelle Model IDs, Context Windows und Capabilities.
Hermes empfiehlt ein Context Window von mindestens 64K Tokens. Nimm ein Model, das diese Anforderung erfüllt, wenn du längere Agent Sessions planst.
Was das Preset konfiguriert
| Teil | Preset-Wert |
|---|---|
| Dashboard | Aktiv auf 0.0.0.0:8642 |
| Dashboard URL | https://$SLIPLANE_DOMAIN |
| Dashboard Login | admin plus generiertes Passwort |
| Hermes API | Aktiv auf Port 8643 |
| API Model Name | hermes-agent |
| Inference Endpoint | https://api.melious.ai/v1 |
| Persistenter Storage | /opt/data |
| Health Check | /api/status |
| Start Command | gateway run |
Alles Veränderbare unter /opt/data überlebt Redeployments. Dazu gehören Hermes Config, Sessions, Memories, Skills und Dashboard-Daten.
Wo deine Daten laufen
Das Setup trennt Agent Runtime und Model Inference:
| Layer | Wo es läuft | Was dort liegt |
|---|---|---|
| Hermes Agent | Dein Sliplane Server | Tools, Memory, Skills, Sessions, Dateien und Orchestrierung |
| Persistenter State | Dein Sliplane Volume | Hermes Daten unter /opt/data |
| Model Inference | Melious' europäisches Provider-Netzwerk | Prompts und Model Responses |
Damit kontrollierst du den Agent und seinen dauerhaften State, ohne selbst ein großes Model betreiben zu müssen. Deine Prompts bleiben aber nicht auf dem Sliplane Server. Prüf die aktuellen Bedingungen zur Datenverarbeitung von Melious, bevor du sensible Daten nutzt.
Security Hardening
Das generierte Passwort ist praktisch für den ersten Start. Hermes empfiehlt für ein öffentlich erreichbares Dashboard aber OAuth oder OIDC statt Basic Auth mit Username und Passwort. Für ein dauerhaftes Production Deployment solltest du Hermes mit einem selbst gehosteten OIDC Provider verbinden oder den Dashboard-Zugriff auf ein vertrauenswürdiges Netzwerk beschränken.
Außerdem:
- Committe niemals
OPENAI_API_KEY, Dashboard-Passwort oder API Server Key - Wechsel die generierten Credentials, wenn jemand Zugriff auf deine Service-Einstellungen hatte
- Installier nur Hermes Skills und Plugins, denen du vertraust; sie laufen mit Zugriff auf die Agent-Umgebung
- Lass
/opt/dataauf einem eigenen persistenten Volume und erstell vor größeren Updates ein Backup
Fehlerbehebung
Das Dashboard lädt nicht
Prüf, ob der Health Check /api/status erreicht und HERMES_DASHBOARD_PORT auf 8642 steht. Die öffentliche Sliplane Domain zeigt auf das Dashboard an diesem Port.
Der Login schlägt fehl
Nutz admin und exakt den generierten Wert aus HERMES_DASHBOARD_BASIC_AUTH_PASSWORD. Wenn du das Passwort änderst, deploy den Service neu, damit Hermes die Umgebung neu lädt.
Es erscheinen keine Models
Prüf, ob OPENAI_BASE_URL auf https://api.melious.ai/v1 zeigt und OPENAI_API_KEY einen gültigen Melious Key statt des Preset-Platzhalters enthält. Geh danach nochmal zu Models → Change → OpenAI API.
Hermes vergisst seine Config
Prüf, ob das persistente Volume weiterhin unter /opt/data gemountet ist. Deploy keinen zweiten Hermes Container mit demselben Volume. Das Upstream-Projekt warnt davor, weil Session- und Memory-Stores nicht für mehrere gleichzeitige Writer gebaut sind.
Kostenvergleich
Bei Sliplane zahlst du für den Server und nicht pro Container. Du kannst Hermes deshalb neben anderen Services betreiben, solange die Ressourcen reichen. Melious Inference wird separat nach Model und Nutzung abgerechnet.
| Anbieter | vCPU | RAM | Disk | Monatliche Kosten | Hinweis |
|---|---|---|---|---|---|
| Sliplane | 2 | 2 GB | 40 GB | €9 (~$10.65) | Flatrate, 1 TB Bandwidth, SSL inklusive |
| Fly.io | 2 | 2 GB | 40 GB | ~$18 | Disk und Bandwidth extra |
| Render | 1 | 2 GB | 40 GB | ~$35 | 100 GB Bandwidth, Disk extra |
| Railway | 2 | 2 GB | 40 GB | ~$67 + $20 Plan | Pro-Plan-Minimum, nutzungsbasiert, Bandwidth extra |
Klick hier, um die Berechnung zu sehen.
(Angenommen eine always-on Instanz mit 730 Stunden/Monat)
- Sliplane: Flat €9/Monat für den Base Server. Unbegrenzte Services auf demselben Server, 1 TB Egress und SSL inklusive.
- Fly.io:
shared-cpu-2x2 GB = $11.83/Monat + 40 GB Volume × $0.15/GB = $6 -> ~$17.83/Monat. Egress wird separat berechnet ($0.02/GB in der EU). - Render: Nächstliegendes Angebot ist Standard ($25, 1 vCPU / 2 GB) plus 40 GB Disk × $0.25/GB = $10 -> ~$35/Monat. Pro (2 vCPU / 4 GB) kostet $85/Monat + Disk.
- Railway (Pro Plan): CPU 2 × $0.00000772/s × 2,628,000 s = $40.57; RAM 2 × $0.00000386/s × 2,628,000 s = $20.29; Volume 40 × $0.00000006/s × 2,628,000 s = $6.31 -> ~$67/Monat Compute, plus $20/Monat Pro-Plan-Minimum und $0.05/GB Egress.
Bandwidth-Kosten können bei nutzungsbasierten Anbietern schnell steigen. Nutz unser Bandwidth-Kostenvergleichstool , um zu sehen, was dein Egress bei jedem Anbieter kosten würde.
FAQ
Ist das ein komplett souveräner AI Stack?
Es ist ein souverän aufgebauter Hosted Stack: Du kontrollierst die Hermes Runtime und den persistenten State, während die Inference an Melious' europäisches Netzwerk geht. Für ein komplett offline laufendes Setup müsstest du einen kompatiblen Model Endpoint auf eigener Infrastruktur betreiben.
Kann ich eine andere App mit Hermes verbinden?
Ja. Hermes stellt eine OpenAI-kompatible API als hermes-agent bereit und schützt sie mit API_SERVER_KEY. Das Preset hält diese API auf Port 8643 getrennt vom öffentlichen Dashboard-Port.
Kann ich später einen anderen Inference Provider nutzen?
Ja. Hermes unterstützt weitere OpenAI-kompatible Endpoints und native Provider. Wechsel den Provider im Dashboard und pass die passenden Umgebungsvariablen an.
Wie update ich Hermes Agent?
Deploy den Service neu, um das aktuelle latest Image zu ziehen. Weil alle veränderbaren Daten unter /opt/data liegen, bleibt der Agent State beim Container-Tausch erhalten. Für Production solltest du vor dem Update einen konkreten Release Tag testen.
