Plattform

Lokale KI mit meloki: Grundlagen und Praxis

Lerne meloki kennen: lokale KI-Modelle, eigenes Unternehmenswissen und Automatisierungen auf einer zentral verwalteten Appliance.

meloki verbindet lokale KI-Modelle, Unternehmenswissen und Automatisierungen auf einer eigenen Appliance. Hier erfährst du, wie die Plattform aufgebaut ist, welche Aufgaben sie unterstützt und was du für den Einsatz in deinem Unternehmen brauchst.

Warum eine lokale KI-Plattform?

Viele Unternehmen möchten KI produktiv einsetzen. Gleichzeitig müssen sie entscheiden, welche Informationen verarbeitet werden dürfen, wer darauf zugreifen kann und welche externen Dienste beteiligt sind. Gerade bei vertraulichen Dokumenten und internem Wissen ist das eine wichtige Architekturentscheidung.

meloki bringt die KI-Verarbeitung auf eine dafür vorgesehene Appliance in deiner Infrastruktur. Du wählst die Modelle, stellst Quellen bereit und bestimmst, welche Systeme angebunden werden. Für lokale Kernfunktionen ist keine öffentliche KI-Cloud erforderlich. Wenn du externe APIs oder Konnektoren einrichtest, musst du deren Datenflüsse gesondert berücksichtigen.

Wie funktioniert meloki?

Der Aufbau ist modular. Die öffentlich beschriebenen Dienste übernehmen unterschiedliche Aufgaben:

  • Ollama stellt lokale Sprachmodelle bereit. Welche Modelle sinnvoll laufen, hängt unter anderem von Modellgröße, GPU-Speicher und Aufgabe ab.
  • OpenWebUI bietet eine Oberfläche für Chats, Modelle und Wissensquellen sowie eigene Benutzer- und Berechtigungseinstellungen.
  • Whisper ermöglicht die lokale Umwandlung von Sprache in Text.
  • n8n verbindet KI-Verarbeitung mit eingerichteten Workflows, Schnittstellen und Folgeaktionen.

Das AdminPACK ergänzt diese Dienste um die zentrale Administration der Appliance. So kannst du KI-Anwendungen und Infrastruktur in einem abgestimmten System betreiben.

Was kannst du damit machen?

Unternehmenswissen zugänglich machen

Handbücher, Richtlinien und andere freigegebene Dokumente können als Wissensquellen dienen. Eine RAG-Konfiguration sucht passende Textstellen und stellt sie dem Sprachmodell als Kontext bereit. Das ist eine Wissenssuche mit anschließender Antwortgenerierung und kein automatisches Training des Modells.

Wie hilfreich die Antworten sind, hängt von der Qualität und Aktualität der Quellen, der Aufbereitung und den Einstellungen ab. Bei wichtigen Entscheidungen prüfst du Antwort und Quellen.

Dokumente und Anfragen bearbeiten

Du kannst Texte zusammenfassen, Inhalte strukturieren oder Antwortentwürfe erstellen lassen. Das unterstützt beispielsweise interne Wissensarbeit, Support oder Personalabteilungen. Fachliche, rechtliche und organisatorische Entscheidungen bleiben bei den zuständigen Menschen.

Abläufe automatisieren

Mit n8n lassen sich eingerichtete Systeme und APIs in einen Workflow einbinden. Beispielsweise kann eine Anfrage zunächst analysiert und anschließend ein Ticketentwurf erzeugt werden. Ob eine Folgeaktion automatisch ausgeführt wird oder eine Freigabe benötigt, legst du im jeweiligen Prozess fest.

Was bedeutet das für die Einführung?

meloki wird auf abgestimmten Hardware-Appliances angeboten. Die passende Ausführung richtet sich nach deinen Aufgaben, den gewünschten Modellen und der erwarteten gleichzeitigen Nutzung. Eine pauschale Nutzerzahl oder feste Einführungsdauer wäre dafür kein geeigneter Maßstab.

Lokaler Betrieb unterstützt die Kontrolle über die Datenverarbeitung. Datenschutzgerechter Einsatz erfordert zusätzlich passende Rechte, technische Einstellungen, Prozesse und eine Prüfung deiner konkreten Anwendungen.

Mit einer passenden Aufgabe beginnen

Starte mit einer überschaubaren Aufgabe und ausgewählten, freigegebenen Daten. Prüfe die Ergebnisse und erweitere den Einsatz anschließend gezielt. In einer persönlichen Demo sprechen wir über deine Anforderungen, zeigen verfügbare Funktionen und besprechen die passende Hardware.

← Alle Wissensartikel
DEIN NÄCHSTER SCHRITT

Bereit, deine eigene KI kennenzulernen?

Erlebe in einer persönlichen Demo, wie meloki dein Unternehmenswissen, deine Anwendungen und deine Prozesse unterstützen kann.

Demo-Termin vereinbaren
Das meloki-Maskottchen fliegt dir entgegen