Zusammenfassung
Kurzer Fachbeitrag zu lokal betriebenen KI-Agenten: Über Ollama lassen sich Sprachmodelle wie DeepSeek-V2 oder Llama 3.1 direkt auf dem eigenen Rechner ausführen — kostenfrei, frei anpassbar und ohne dass Daten das Gerät verlassen. Der Beitrag schließt mit einer offenen Frage an die Community, wer das bereits ausprobiert hat.
Anders als die übrigen Beiträge in dieser Kategorie ist dies kein Karriere-Rückblick, sondern eine knappe fachliche Beobachtung.
Eigene Einordnung im Folgekommentar
Der inhaltlich gewichtigere Teil steht im eigenen Folgekommentar unter dem Beitrag und benennt die praktischen Grenzen:
- Was auf eigener Hardware läuft: Qwen3 8B arbeitet „überraschend performant”; im Standardmodus fallen die Antworten ausführlicher aus und legen mehr Gewicht auf Erklärungen und Hintergrund.
- Was nicht läuft: Für große Modelle wie DeepSeek V3 im Original fehlen die Ressourcen — dafür braucht es leistungsstarke Server statt eines normalen PCs.
- Wirtschaftliche Hürde: Die Preise für Arbeitsspeicher und vor allem für GPUs mit viel VRAM sind derzeit die eigentliche Schranke für den Heimbereich.
Diese Trennung zwischen dem, was tatsächlich auf der eigenen Hardware lief, und dem, was daran scheiterte, entspricht der Arbeitsweise in der Laborumgebung: Erfahrungen werden mit ihren Grenzen benannt, nicht darüber hinaus verallgemeinert.
Fachlicher Bezug
Der Beitrag verbindet drei Themen des Profils von Ralf Seidenschwang: den praktischen Betrieb eigener Server- und Laborumgebungen, den Schwerpunkt KI und Automatisierung sowie das Interesse an Datenschutz und IT-Sicherheit — hier in Gestalt der Datensouveränität, da bei lokaler Ausführung keine Inhalte an einen Cloud-Anbieter abfließen. Das ist besonders in regulierten Umfeldern relevant, wie sie aus der Pharma-Praxis (GxP/GMP) vertraut sind.
Thematisch verwandt sind die Fachbeiträge KI und Urheberrecht und AI Video Rules (2025). Die regulatorische Gegenseite zu diesem technischen Beitrag behandelt EU AI Act – was die nächste Stufe praktisch bedeutet.
Citations
[1] LinkedIn-Post: Lokale KI-Agenten brauchen keine Cloud (öffnet in neuem Tab)