68 lines
2.3 KiB
Markdown
68 lines
2.3 KiB
Markdown
# Agent Hardware Specifications
|
|
|
|
## Agent A — netcup VPS (Hub / Ollama-Server)
|
|
- **Host:** netcup VPS RS 2000
|
|
- **OS:** Ubuntu 24.04
|
|
- **RAM:** 16 GB (davon ~13 GB frei)
|
|
- **Disk:** 300 GB SSD (davon 284 GB frei)
|
|
- **CPU:** x86_64
|
|
- **GPU:** ❌ Keine
|
|
- **ZT-IP:** `172.24.196.119`
|
|
- **Rolle:** Hub, Deployer, Ollama-Host (lokaler Fallback)
|
|
|
|
### Local model capability (CPU-only Ollama)
|
|
| Model | Size | Runs? |
|
|
|-------|------|-------|
|
|
| deepseek-r1:7b (Q4_K_M) | 4.7 GB | ✅ **Aktiv** |
|
|
| deepseek-r1:14b (Q4_K_M) | 9.0 GB | ✅ Geladen, ungetestet |
|
|
|
|
## SwitchHermes — Nintendo Switch Lite (Cockpit)
|
|
- **Host:** Nintendo Switch Lite
|
|
- **OS:** Ubuntu Noble (ARM64)
|
|
- **RAM:** ~4 GB
|
|
- **CPU:** NVIDIA Tegra X1 (ARM Cortex-A57, 4 Kerne)
|
|
- **GPU:** ❌ Maxwell (ARM-integriert, kein CUDA)
|
|
- **ZT-IP:** `172.24.20.26`
|
|
- **Node-ID:** `3c1d63bbed`
|
|
- **SSH:** `mehlzoerwer@172.24.20.26` (PW: Bp3lskt0)
|
|
- **Rolle:** Cockpit — Prompt/Code-Generierung, kein lokales Ausführen
|
|
- **LLM:** ❌ Nicht sinnvoll (4GB RAM, ARM64, kein GPU). Nutzt Ollama auf Agent A via ZT.
|
|
- **Hermes:** ✅ installiert (~/.hermes/), läuft als mehlzoerwer
|
|
|
|
## LaptopHermes — HP Laptop (Worker)
|
|
- **Host:** HP Laptop
|
|
- **OS:** Ubuntu
|
|
- **RAM:** unbekannt
|
|
- **CPU:** Intel i7-10th Generation
|
|
- **GPU:** **NVIDIA RTX 2060, 6 GB VRAM** (CUDA-fähig)
|
|
- **ZT-IP:** `172.24.178.202`
|
|
- **Node-ID:** `94334e18df`
|
|
- **SSH:** `mehlzoerwer@172.24.178.202` (PW: Bp3lskt0)
|
|
- **Rolle:** Worker — Dokumente, PDF, PowerPoint, HTML-Kompilation
|
|
- **Hermes:** ✅ installiert (~/.hermes/), läuft als mehlzoerwer
|
|
|
|
### VRAM limits (RTX 2060 6 GB)
|
|
|
|
⚠️ **6 GB VRAM reicht maximal für 7B-Modelle in Q4_K_M.**
|
|
|
|
| Model | Quant | VRAM | Passt? |
|
|
|-------|-------|------|--------|
|
|
| deepseek-r1:7b | Q4_K_M | ~4.5 GB | ✅ Ja |
|
|
| deepseek-r1:7b | Q8_0 | ~7 GB | ❌ Nein |
|
|
| deepseek-r1:14b | Q4_K_M | ~9 GB | ❌ Nein |
|
|
| deepseek-r1:32b | Q4_K_M | ~20 GB | ❌ Nein |
|
|
| llama-3.2:3b | Q4_K_M | ~2 GB | ✅ Ja |
|
|
| qwen2.5:7b | Q4_K_M | ~4.5 GB | ✅ Ja |
|
|
|
|
**Fazit:** Maximal 7B in Q4_K_M. Keine 14B+ ohne RAM-Offloading (langsam).
|
|
|
|
## Agent B — Unraid (Entwickler)
|
|
- **Host:** Unraid (wird neu aufgesetzt)
|
|
- **ZT-IP:** TBD
|
|
- **Rolle:** Entwickler, Git/Code
|
|
|
|
## Handy (Nutzer-Endgerät)
|
|
- **ZT-IP:** `172.24.92.162`
|
|
- **Node-ID:** `e39b118b68`
|
|
- **OS:** Android
|
|
- Kein Hermes-Agent, nur Mesh-Teilnehmer |