Eigene Unternehmens-KI mit Ollama einrichten

Wenn die Produkttexte über einen Rechner in Ihrem eigenen Netz erzeugt werden sollen statt über die Cloud, richten Sie eine lokale Unternehmens-KI ein. OfficeOmni bringt dafür einen Assistenten mit, der die drei kritischen Punkte nacheinander prüft — Erreichbarkeit, Modell und Funktion.

Wer welchen Teil übernimmt

Die Einrichtung teilt sich sauber auf. Ihre IT stellt den Rechner bereit, installiert das kostenlose Programm Ollama und sorgt dafür, dass der Dienst im Netz erreichbar ist. Als Anwender tragen Sie anschließend nur zwei Werte ein und lassen die Prüfung laufen.

Den Assistenten öffnen

Der Dialog heißt KI-Server einrichten und liegt in den Einstellungen des Webshop-Bereichs. Er zeigt oben die beiden Felder Server-URL und Modell, darunter die drei Prüfschritte.

Beide Werte stammen aus den gespeicherten Einstellungen und lassen sich im Dialog anpassen — praktisch, um eine geänderte Adresse zu erproben, ohne die Einstellungen zu verlassen.

Die drei Prüfschritte

Ein Klick auf Prüfung starten arbeitet die Schritte der Reihe nach ab:

1. Server erreichbar — der Assistent versucht, den Dienst unter der angegebenen Adresse zu erreichen. Schlägt das fehl, läuft entweder Ollama nicht, oder die Adresse stimmt nicht. Über Ollama herunterladen gelangen Sie direkt zur Bezugsquelle.
2. KI-Modell vorhanden — er prüft, ob das eingetragene Modell auf dem Server bereitliegt. Fehlt es, laden Sie es mit Modell jetzt herunterladen nach. Das kann je nach Modellgröße und Leitung einige Minuten dauern; der Fortschritt wird angezeigt.
3. Funktionstest — zum Schluss schickt der Assistent eine Testanfrage an das Modell. Erst wenn dieser Schritt durchläuft, ist der Server einsatzbereit.

Jeder Schritt zeigt sein Ergebnis einzeln an. Bleibt einer stehen, wissen Sie damit sofort, wo es klemmt — Sie müssen nicht raten, ob es an der Adresse, am Modell oder an der Antwort liegt.

Die beiden Felder im Detail

Was danach über den eigenen Server läuft

Ist die Prüfung durch, erzeugt OfficeOmni die Produkttexte über Ihren Server statt über Azure. Vor dem Start eines solchen Laufs weist das Programm ausdrücklich darauf hin, dass die Synthese im Firmennetz läuft und die Produktdaten dorthin gesendet werden — Sie sehen also jedes Mal, welchen Weg die Daten nehmen.

Alle übrigen KI-Funktionen bleiben davon unberührt und laufen weiter über die Cloud.

Wenn etwas nicht funktioniert

• Schritt 1 bleibt rot — prüfen Sie, ob der Rechner läuft und ob eine Firewall den Zugriff blockiert. Die Adresse muss aus Ihrem Netz erreichbar sein, nicht nur auf dem Server selbst.
• Schritt 2 bleibt rot — der Modellname stimmt nicht mit dem überein, was installiert ist. Achten Sie auf die genaue Schreibweise samt Zusatz nach dem Doppelpunkt.
• Schritt 3 bleibt rot — das Modell antwortet nicht oder liefert nichts Verwertbares. Häufig fehlt dem Rechner Arbeitsspeicher für das gewählte Modell.

Verwandte Themen

• Azure-KI oder eigene Unternehmens-KI: die Wahl des Anbieters
• Kontingente, Budget und Fehlermeldungen verstehen
• Was der KI-Assistent kann — und was er nicht tut