Ollama

Aus Dokument
Zur Navigation springen Zur Suche springen

Hinweis: Diese Inhalte wurden mit Unterstützung von Künstlicher Intelligenz erstellt und redaktionell überprüft (Transparenzhinweis gemäß Art. 50 EU AI Act).

Ollama ist ein Tool, das es ermöglicht, Sprachmodelle effizient und ressourcenschonend im Servermodus zu betreiben. Es ist in der Lage, die Anfragen von mehreren Clients gleichzeitig zu verarbeiten und die Modelle in einem Cache zu speichern, um die Antwortzeiten zu verkürzen.

Installation

Ubuntu

curl -fsSL https://ollama.com/install.sh | sh

Hinweis: Diese Inhalte wurden mit Unterstützung von Künstlicher Intelligenz erstellt und redaktionell überprüft (Transparenzhinweis gemäß Art. 50 EU AI Act).