255 lines
13 KiB
Markdown
255 lines
13 KiB
Markdown
# HIVEGRID-198 · Produktion auf 10 VMs trennen und Promote-/DNS-Prozess fertigstellen
|
|
|
|
| Feld | Wert |
|
|
| ------ | -------------------------------- |
|
|
| Typ | Infra / Deployment |
|
|
| Owner | Raffael |
|
|
| Phase | Production |
|
|
| Cycle | Backlog, am 2026-07-27 gestartet |
|
|
| Status | Done |
|
|
|
|
## Abhängigkeiten & Parallelität
|
|
|
|
- **blocked-by:** Im Plane-Ticket und in den lokalen Ticket-Docs ist kein
|
|
`blocked-by` hinterlegt.
|
|
- **blocks:** Im Plane-Ticket und in den lokalen Ticket-Docs ist kein
|
|
nachgelagertes `blocks`-Ticket hinterlegt.
|
|
- Die bestehenden Runtime-Verträge aus `R-P1a`, AD-30, VR-MCP und dem
|
|
Realtime-Modul bleiben unverändert. Der Cutover darf sie nur auf getrennte
|
|
Hosts verschieben.
|
|
- Die Produktion bleibt bis zum vollständigen Promote- und Smoke-Proof auf den
|
|
alten Runtimes erreichbar. Alte Ressourcen werden erst nach dem
|
|
Beobachtungsfenster bereinigt.
|
|
|
|
## Was wir bauen
|
|
|
|
Die bestehende HiveGrid-Produktion wird kontrolliert von fünf auf zehn klar
|
|
getrennte VMs erweitert. Neu hinzu kommen eigene Hosts für Website, Portal,
|
|
Admin, MCP und Realtime. Alle Hosts werden gehärtet, an Hetzner-Privatnetz,
|
|
WireGuard-Mesh, Coolify sowie zentrales Logging und Monitoring angebunden.
|
|
|
|
Die vorhandenen Build-once-/Stage-/Promote-Verträge werden vollständig
|
|
produktionsfähig gemacht. Production erhält exakt die in Staging geprüften
|
|
SHA-/OCI-Digests; Migrationen laufen einmalig vor der Runtime-Mutation. DNS
|
|
wechselt Service für Service mit dokumentiertem Rollback.
|
|
|
|
Verbindlicher Realtime-Hostname ist `realtime.hivegrid.de`.
|
|
|
|
Vom User am 2026-07-27 ausdrücklich in den Arbeitsumfang aufgenommen: ein
|
|
eigenes Lago-Production-Setup mit separatem, versioniertem Object Storage,
|
|
verschlüsseltem Backup und verifiziertem Restore-Drill. Mollie-Live-Side-Effects
|
|
bleiben bis zum Abschluss der externen Gates in `EXT-16` ausdrücklich
|
|
deaktiviert.
|
|
|
|
## Zielbild
|
|
|
|
1. Control/Coolify
|
|
2. App/Web
|
|
3. API
|
|
4. Worker und private Seitendienste
|
|
5. Datenbank/Stateful
|
|
6. Website
|
|
7. Portal inklusive Portal-Domain-Controller
|
|
8. Admin nur über VPN/WireGuard und Authentik
|
|
9. MCP
|
|
10. Realtime/Hocuspocus
|
|
|
|
## Nicht im Scope
|
|
|
|
- Kubernetes
|
|
- Load Balancer oder horizontale Replikation
|
|
- Umzug der HiveGrid-Anwendungsdatenbank
|
|
- automatische Skalierung
|
|
- Aktivierung von Mollie-Live-Zahlungen vor KYC-, Legal- und Live-Key-Proof
|
|
- Löschung alter Ressourcen vor Ende des Beobachtungsfensters
|
|
|
|
## Scope-Übergabe an HIVEGRID-207
|
|
|
|
Der User hat am 2026-07-28 entschieden, den noch ausstehenden autorisierten
|
|
Production-E2E-Proof, das daran anschließende 72-Stunden-Beobachtungsfenster und
|
|
die spätere Bereinigung der alten Rollback-Ressourcen als eigenständigen
|
|
operativen Nachzug in `HIVEGRID-207` zu backloggen.
|
|
|
|
`HIVEGRID-198` schließt damit den Infrastruktur-, Cutover-, Promote-, DNS-,
|
|
Backup-/Restore- und Observability-Scope ab. Die ausgelagerten Arbeiten werden
|
|
unten transparent weitergeführt, zählen aber nicht mehr zur DoD dieses Tickets.
|
|
Die alten Rollback-Ressourcen bleiben bis zum Sign-off von `HIVEGRID-207`
|
|
unangetastet.
|
|
|
|
## Definition of Done
|
|
|
|
- [x] Hetzner-Limit ist mindestens 12.
|
|
- [x] Fünf neue VMs sind erstellt, gehärtet und im privaten Netz/Coolify
|
|
eingebunden.
|
|
- [x] Logging, Monitoring und Healthchecks sind für alle fünf neuen Hosts grün.
|
|
- [x] Website, Portal, Admin, MCP und Realtime laufen auf den vorgesehenen VMs.
|
|
- [x] Admin hat eine echte fail-closed Runtime-Surface und ist nur über
|
|
VPN/WireGuard plus Authentik erreichbar.
|
|
- [x] Alle internen Verbindungen und DB-Rollen sind privat und nach Least
|
|
Privilege geprüft.
|
|
- [x] DNS, TLS und Cloudflare-Konfiguration sind für alle öffentlichen Hosts
|
|
korrekt.
|
|
- [x] HiveGrid-Cloud promotet exakt den getesteten SHA/Digest auf alle
|
|
benötigten Production-Ressourcen.
|
|
- [x] HiveGrid-Website promotet exakt den getesteten SHA/Digest auf die
|
|
Website-Production-Ressource.
|
|
- [x] Cloudflare-Purge nutzt Account/Zone korrekt, läuft nur beim Promote und
|
|
bestätigt `success=true`.
|
|
|
|
**Fortschritt: 10/10 Infra-DoD = 100 % done.**
|
|
|
|
### Ausgelagerter operativer Nachzug
|
|
|
|
Diese Punkte sind unverändert verpflichtend, werden aber vollständig in
|
|
`HIVEGRID-207` getrackt:
|
|
|
|
- [ ] Alle autorisierten Production-End-to-End-Smoke-Tests sind grün.
|
|
- [ ] Das 72-Stunden-Beobachtungsfenster ist stabil abgeschlossen und alte
|
|
Rollback-Ressourcen wurden erst danach bereinigt.
|
|
|
|
## Technische Bausteine
|
|
|
|
- Hetzner Cloud `fsn1`, privates Produktionsnetz und WireGuard-Mesh
|
|
- Coolify Projekt `HiveGrid`, Environment `production`, eine Resource pro
|
|
Runtime
|
|
- Cloudflare SSL `strict`; Public Records erst nach Origin-Zertifikats-Proof
|
|
proxied; Admin ohne öffentlichen A/AAAA-Record
|
|
- `realtime.hivegrid.de` als umgebungsneutraler Hocuspocus-Gateway-Hostname
|
|
- Gitea Package Registry und bestehender Build-once-/Promote-Workflow
|
|
- einmaliger Migrator vor Runtime-Rollout; keine Runtime-Migrations-Credentials
|
|
- getrennte Least-Privilege-Rollen für App, Portal, Worker und Admin-JIT
|
|
- private Lago-API, eigenes PostgreSQL/Redis, eigener S3-Bucket und
|
|
restic-Backup
|
|
|
|
## Quellen
|
|
|
|
- Plane `HIVEGRID-198`
|
|
- `AGENTS.md`, Abschnitt „Estate-Infrastruktur“
|
|
- `docs/deployment.md`
|
|
- `docs/ops/prod-rollout-hivegrid.md`
|
|
- `docs/ops/lago-production-prep.md`
|
|
- `docs/ARCHITECTURE-DECISIONS.md`, insbesondere AD-30
|
|
- Infra: `README.md`, `STANDARDS.md`, `LESSONS.md`
|
|
- Infra: `runbooks/hivegrid-production-split-cutover.md`
|
|
- Infra: `diagrams/hivegrid-production-topology.md`
|
|
|
|
## Umsetzungs-Notiz
|
|
|
|
### 2026-07-27
|
|
|
|
- Hetzner-Limit bestätigt und fünf CX23-Hosts in `fsn1` erstellt.
|
|
- Alle neuen Hosts gehärtet, privat vernetzt, ins WireGuard-Mesh und in Coolify
|
|
aufgenommen; Monitoring, Logs und Host-Health sind grün.
|
|
- Separate Coolify-Ressourcen für Website, Portal, Admin, MCP und Realtime
|
|
angelegt. DNS-01-Origin-Zertifikate und der private Admin-Split-DNS-Pfad sind
|
|
vorbereitet; öffentliche Records wurden noch nicht umgeschaltet.
|
|
- Runtime-Rollen, RLS, PgBouncer-Pfad und Produktions-Allowlist nach Least
|
|
Privilege geprüft. Die Migrationshistorie wurde über den einmaligen
|
|
Promote-Migrator auf den aktuellen Stand gebracht; die alte Runtime blieb
|
|
danach gesund.
|
|
- Lago Production mit eigener Datenbank, Redis, privater API, deaktiviertem
|
|
Signup und separatem versioniertem Object Storage provisioniert. Der
|
|
verschlüsselte Snapshot `73b2c338` wurde vollständig in disposable
|
|
PostgreSQL/Redis plus API, Frontend, Worker, Billing-Worker und PDF-Service
|
|
restauriert. Der S3-Schreib-/Lese-/Lösch-Canary war grün.
|
|
- Mollie-Live ist weiterhin nicht freigegeben. Die Runtime benötigt deshalb
|
|
den expliziten Schalter
|
|
`PRODUCT_ACQUISITION_PROVIDER_SIDE_EFFECT_REQUIRED=false`; ungültige Werte
|
|
und fehlende Provider-Konfiguration im aktivierten Modus schlagen
|
|
fail-closed fehl.
|
|
- Tests: Typecheck und Lint grün; Vollsuite nach der Gate-Änderung mit 1.122
|
|
Testdateien und 7.821 Tests grün, 10 Dateien beziehungsweise 60 Tests
|
|
erwartungsgemäß übersprungen. CI-Proof folgt vor Promote.
|
|
- Lokale Commits: Cloud Runtime-Gate `85fac5bb7`; Infra Backup/Restore und
|
|
Runbook `936a32a`.
|
|
|
|
### 2026-07-28
|
|
|
|
- Die fünf neuen Produktions-VMs tragen den Live-Traffic: Website
|
|
`188.34.157.34`, Portal `167.233.117.104`, Admin privat auf `10.42.0.14`,
|
|
MCP `2.28.5.232` und Realtime `2.28.5.14`. Alle elf Cloud-Ressourcen und alle
|
|
fünf Worker-Gruppen sind gesund.
|
|
- DNS/TLS-Cutover abgeschlossen: `hivegrid.de`/`www`, `portal` inklusive
|
|
Domain-Controller, `mcp` und `realtime` laufen über Cloudflare mit SSL
|
|
`strict`. `admin.hivegrid.de` hat bei öffentlichen Resolvern keinen Record,
|
|
die öffentliche Admin-IP bietet kein HTTPS. Über den WireGuard-Meshpfad
|
|
liefert Admin den exakten Release und leitet fail-closed zu
|
|
`auth.tool-ctrl.de` weiter.
|
|
- HiveGrid-Cloud PR `#281` wurde normal gemergt. Staging Run `11387` und
|
|
Production Promote Run `11389` sind für den exakten Merge-SHA
|
|
`ce08af27b217aa55ccc5daab5ffe66b995ccb3f4` grün. Core, Admin und Portal
|
|
verwenden denselben Web-Digest
|
|
`sha256:ca579bc0c39dea6b6b865c095457a5508edf455e59b80394f51942b4a49ece81`.
|
|
API, MCP, Realtime und Worker melden ebenfalls exakt diesen Commit über ihre
|
|
eigenen unveränderlichen Digests.
|
|
- Die Website läuft auf Revision `5271afc` und Digest
|
|
`sha256:2d776182df98c36cb47e7c710860e48d1ae3331a48d60cce271f1787c207c7b6`.
|
|
Production Run `11385` war grün; der abschließende Cloudflare-Purge bestätigte
|
|
`success=true`.
|
|
- Frischer Backup-Gate-Proof für den Promote: PostgreSQL-Restic-Snapshot
|
|
`b10d7874` von `2026-07-28T00:09:30Z`, Repository-Check ohne Fehler,
|
|
Prüfsumme gültig und vollständiger Restore in PostgreSQL 16 mit 373
|
|
öffentlichen Tabellen, 212 Prisma-Migrationen und 372 FORCE-RLS-Tabellen.
|
|
Die Live-Datenbank wurde beim Drill nicht verändert.
|
|
- Production-Acceptance-Hotfix `aded46303`: Bei
|
|
`PRODUCT_ACQUISITION_PROVIDER_SIDE_EFFECT_REQUIRED=false` wird kein
|
|
Mollie-Reconciler gebootstrapped und ein vorhandener 5-Minuten-Scheduler
|
|
entfernt. Web/API/Worker verwenden bei leerem `SENTRY_RELEASE` den
|
|
unveränderlichen `APP_REVISION`. Proof: Typecheck, Lint, Release-Build,
|
|
Runtime-/Deploy-Verträge, 107 fokussierte Tests und die Vollsuite mit 1.122
|
|
Testdateien beziehungsweise 7.823 bestandenen Tests; alle elf zentralen
|
|
PR-CI-Gates grün.
|
|
- Öffentliche Acceptance: Health/Readiness für Core, Portal, API und MCP jeweils
|
|
HTTP 200 auf dem exakten Release; API unauthentifiziert 401 und mit
|
|
Service-Token 200; MCP-Metadaten mit korrektem Issuer und zwölf Scopes,
|
|
tokenloser Initialize-Aufruf 401 mit Bearer-Challenge; Realtime-WebSocket
|
|
Upgrade 101.
|
|
- Monitoring: Prometheus 34/34 aktive Targets `UP`, inklusive beider Exporter
|
|
auf allen zehn Hosts. Loki liefert aktuelle Production-Logs aller zehn Hosts
|
|
mit `project`, `environment`, `server`, `service`. Zehn Minuten nach dem
|
|
Rollout meldete Sentry für Web, API und Worker jeweils null aktuelle
|
|
Production-Issues; seit dem neuen Worker-Rollout erschien auch in Loki keine
|
|
Meldung des zuvor periodischen `UnsupportedWorkerJobError`.
|
|
- Rollback-Snapshots liegen lokal unter
|
|
`~/.cli-tokens/hivegrid-dns-before-hivegrid-198-20260727T143742Z.json` und
|
|
`~/.cli-tokens/hivegrid-coolify-before-hivegrid-198-20260727T143827Z.json`.
|
|
Das Infra-Runbook dokumentiert Release-first-/DNS-second-Rollback,
|
|
Forward-only-Migrationen, Backups und das 72-Stunden-Fenster.
|
|
- Noch offen: ein freigegebener echter Production-Login für Core-Read/Write,
|
|
Portal-Login/Upload/Logout, Admin-JIT, autorisierten MCP-Aufruf und
|
|
autorisierten Realtime-Roundtrip. Für den Rollout wurde bewusst kein
|
|
Production-Passwort zurückgesetzt und keine Testidentität erfunden. Erst
|
|
nach diesen Checks beginnt das verbindliche 72-Stunden-Fenster; alte
|
|
Rollback-Ressourcen bleiben bis zu dessen Sign-off bestehen.
|
|
- Der Promote wurde für beide Repositories auf einen input-freien manuellen
|
|
Run vereinfacht. HiveGrid-Website PR `#6` wurde normal gemergt; Run `11405`
|
|
promotete den live auf Staging geprüften Release `ec9402a` ohne Neubau nach
|
|
Production und bestätigte dort dieselbe Revision.
|
|
- HiveGrid-Cloud behandelt einen manuellen Run von `main` jetzt ausschließlich
|
|
als Production-Promote. Der Workflow liest den vollständigen SHA aus der
|
|
live Staging-Core-Health-Antwort, prüft Service/Surface, Main-Ancestry und
|
|
alle sechs `staging`-OCI-Digests und behält RLS-, Migrator-, Runtime-,
|
|
Health- und Digest-Gates unverändert bei. Der manuelle Start ist die
|
|
auditierte Operator-Bestätigung der zuvor geprüften Backup- oder
|
|
Restore-Point-Bereitschaft.
|
|
- Lokaler Proof für den Cloud-Nachzug: Typecheck und Lint grün; 185 fokussierte
|
|
Deploy-/Readiness-Tests grün; `verify:gitea-ci-workflow`,
|
|
`verify:deploy-workflow`, `verify:deploy-readiness`,
|
|
`verify:ci-baseline` und `verify:source-health` grün; Vollsuite mit 1.122
|
|
bestandenen Testdateien beziehungsweise 7.823 bestandenen Tests, 10 Dateien
|
|
beziehungsweise 60 Live-Integrationstests erwartungsgemäß übersprungen.
|
|
- Abschluss-Proof der input-freien Workflows: HiveGrid-Cloud Staging-Run
|
|
`11409` und Production-Promote `11411` sind für
|
|
`d060e626ccebe84d5df01717c9b04c8b3ff6fd15` grün; Staging und Production
|
|
melden für Core, Portal, API und MCP exakt diesen Release. Der nachfolgende
|
|
Website-Run `11412` promotete Dejans neuen Staging-Stand `cfd08ee` ohne
|
|
Eingaben; `staging.hivegrid.de` und `hivegrid.de` meldeten danach beide
|
|
`cfd08ee`.
|
|
- User-Entscheidung vom 2026-07-28: Production-E2E, das daran anschließende
|
|
72-Stunden-Fenster und die Altressourcen-Bereinigung werden in
|
|
`HIVEGRID-207` weitergeführt. Die bestehenden Rollback-Ressourcen bleiben bis
|
|
zu dessen Sign-off erhalten.
|
|
|
|
**Stand: 10/10 Infra-DoD = 100 % done · operativer Nachzug vollständig nach
|
|
HIVEGRID-207 übertragen.**
|