Ollama

ist ein kostenloses Tool, mit dem du große KI-Sprachmodelle wie Llama 3, Mistral oder Gemma direkt auf deinem eigenen Rechner lokal ausführen kannst – ohne Cloud und mit voller Datenhoheit.

Was Ollama kann

• Ollama lädt und verwaltet Sprachmodelle lokal, stellt sie über eine einfache Terminal‑Oberfläche sowie eine HTTP‑API bereit und unterstützt macOS, Linux und (in Preview) Windows.
• Du kannst damit Chatbots, Code‑Assistenten oder Analyse‑Tools bauen, die komplett offline bzw. auf deinem eigenen Server laufen – praktisch für Datenschutz, sensible Daten und schnelle Experimente.

Download und Installation

• Offiziell wird Ollama über die Website des Projekts verteilt; dort findest du Installationspakete für macOS und Linux sowie Anweisungen für Windows (oft über WSL2).
• Unter macOS kannst du Ollama entweder über das .dmg/.zip‑Paket oder komfortabel per Homebrew installieren (brew install ollama), unter Linux stehen Installer‑Skripte bzw. Pakete zur Verfügung.

Modelle lokal nutzen

• Nach der Installation lädst du Modelle mit Befehlen wie ollama pull llama3 und startest sie mit ollama run llama3; so lässt sich in wenigen Minuten ein lokaler Chat‑Assistent einrichten.
• Über die lokale API (standardmäßig http://localhost:11434) kannst du Ollama in eigene Anwendungen oder Tools integrieren, etwa in VS Code, Web‑UIs oder Automatisierungen.

Hier findest du weiterführende Informationen: Ollama