KI-Integration.
Lokal. Sicher.

Nein, aber sie räumt den schwierigsten Teil aus dem Weg. Wenn das Sprachmodell auf Ihrer eigenen Hardware läuft, werden keine personenbezogenen Daten an einen Anbieter oder in ein Drittland übermittelt. Damit entfallen der Auftragsverarbeitungsvertrag mit einem US-Anbieter, die Standardvertragsklauseln und das Transfer Impact Assessment.

Alles Übrige bleibt Ihre Aufgabe: Verzeichnis von Verarbeitungstätigkeiten, Rechtsgrundlage, Löschkonzept sowie technische und organisatorische Maßnahmen. Wer behauptet, lokale KI sei von sich aus datenschutzkonform, verkürzt die Sache. Zu jeder Umsetzung liefere ich die technische Dokumentation, die Ihr Datenschutzbeauftragter für seine Bewertung braucht.

Das hängt vom Modell ab. Für die gängigen Modelle mit sieben bis acht Milliarden Parametern, etwa Llama 3.1 8B oder Mistral 7B, reicht in quantisierter Form üblicherweise eine Grafikkarte mit 8 bis 12 GB Videospeicher. Damit lassen sich die Einordnung von Texten, die Extraktion von Angaben und einfache Assistenzaufgaben zuverlässig erledigen.

Bei Modellen um 30 Milliarden Parameter sollten Sie 24 GB einplanen, bei 70 Milliarden eher 48 GB, in der Praxis verteilt auf zwei Karten. Betrieb allein auf der CPU funktioniert, ist für interaktive Anwendungen aber zu langsam. Für den Einstieg genügt meist ein einzelner Server. Wer keine eigene Hardware anschaffen möchte, kann auf dedizierte Server in der EU ausweichen.

Sie finden hier bewusst keine Preisliste. Der Aufwand hängt so stark von Ihren vorhandenen Systemen, der Datenlage und dem gewünschten Umfang ab, dass eine Pauschalangabe entweder deutlich zu hoch oder deutlich zu niedrig wäre. Beides hilft Ihnen nicht weiter.

Stattdessen ist das Erstgespräch samt grober Einschätzung kostenlos. Schon danach wissen Sie, in welcher Größenordnung sich Ihr Vorhaben bewegt. Wenn wir weitermachen, bekommen Sie ein Festpreisangebot je Projektabschnitt, damit keine offenen Stundenbudgets entstehen.

Zwei Posten sollten Sie dabei getrennt betrachten: die einmalige Einrichtung und die laufenden Kosten. Läuft das Modell lokal, entfällt der Preis pro Anfrage vollständig, es bleiben Strom, Abschreibung der Hardware und optionale Wartung. Bei Cloud-Modellen ist es umgekehrt, dort zahlen Sie nutzungsabhängig, sparen aber die Anschaffung.

Ein sauber abgegrenzter erster Anwendungsfall, etwa die Vorsortierung des Posteingangs oder das Auslesen von Rechnungen, ist in der Regel nach wenigen Wochen im Einsatz. Der Weg dorthin führt über Analyse, technisches Konzept, Einrichtung mit Testphase und Übergabe.

Größere Vorhaben mit mehreren angebundenen Systemen dauern länger. Ich zerlege sie in Abschnitte, die einzeln nutzbar sind, damit der erste Nutzen nicht erst am Projektende entsteht.

Beim Cloud-Dienst verlassen Ihre Eingaben das Unternehmen und werden auf fremden Servern verarbeitet, oft außerhalb der EU. Beim lokalen Betrieb läuft das Modell auf Ihrer Hardware, es geht keine Anfrage nach draußen.

Dafür sind die großen Cloud-Modelle bei anspruchsvollen Aufgaben derzeit klar leistungsfähiger und ersparen Ihnen die Investition in Hardware. Lokale Modelle punkten mit Datenhoheit, kalkulierbaren Kosten und Unabhängigkeit von Preis- und Produktentscheidungen eines Anbieters. In vielen Fällen ist die Mischung sinnvoll: Was schützenswert ist, bleibt im Haus, der Rest darf in die Cloud.

RAG steht für Retrieval Augmented Generation. Das Modell wird dabei nicht auf Ihre Daten trainiert. Es bekommt zu jeder Frage die passenden Stellen aus Ihren Dokumenten als Kontext mitgegeben. Dafür werden die Dokumente vorab in einer Vektordatenbank wie Qdrant, Weaviate oder ChromaDB abgelegt.

Interessant wird das, sobald die KI auf firmeneigenes Wissen antworten soll, also auf Handbücher, Verträge, Richtlinien oder Projektunterlagen. Zwei Punkte sprechen in der Praxis dafür: Ein neues Dokument ist sofort verfügbar, ohne dass etwas neu trainiert werden muss, und jede Antwort lässt sich über die Quellenangabe im Original nachprüfen.

Sobald Datenschutz eine Rolle spielt, ja. n8n lässt sich auf eigenen Servern betreiben, die verarbeiteten Daten bleiben dadurch im Haus. Bei Zapier und Make laufen sie grundsätzlich über die Infrastruktur des Anbieters.

Der zweite Unterschied ist die Abrechnung: Im Eigenbetrieb zahlen Sie bei n8n nicht pro ausgeführtem Schritt, was sich bei hohen Stückzahlen bemerkbar macht. Zapier ist dafür schneller eingerichtet und bringt mehr fertige Anbindungen mit. Für kleine, unkritische Automatisierungen ist das oft die pragmatischere Wahl.

Die Mitarbeiterzahl ist der falsche Maßstab. Entscheidend ist, wie oft sich dieselbe Handarbeit wiederholt. Wo täglich Anfragen sortiert, Belege abgetippt oder Informationen zusammengesucht werden, rechnet sich eine Automatisierung schon bei zehn Beschäftigten.

Umgekehrt kann ein Betrieb mit 200 Leuten und lauter Einzelfällen kaum geeignete Ansatzpunkte haben. Welche Abläufe bei Ihnen infrage kommen, klärt die Analyse vor der Investition.

Sprachmodelle erfinden gelegentlich Inhalte, das lässt sich nicht restlos abstellen. Man kann die Systeme aber so bauen, dass Fehler auffallen und begrenzt bleiben. RAG-Antworten bekommen eine Quellenangabe, mit der sich jede Aussage nachprüfen lässt. Einordnungen, bei denen sich das Modell unsicher ist, landen in einer Prüfliste statt in der automatischen Weiterverarbeitung.

Und was rechtlich oder finanziell bindet, entscheidet weiterhin ein Mensch. Die KI bereitet vor, freigegeben wird im Team.

Das ist bewusst nicht vorgesehen. Ich setze auf verbreitete Komponenten wie n8n, Ollama und offene Vektordatenbanken statt auf Eigenentwicklungen, die nur ich warten kann. Zur Übergabe gehören die Dokumentation, sämtliche Zugänge und eine Einarbeitung Ihres Teams.

Eine laufende Betreuung biete ich an, notwendig für den Weiterbetrieb ist sie nicht. Wenn Sie später mit jemand anderem weiterarbeiten wollen, steht dem nichts im Weg.

Ja. Mein Standort ist Jena in Thüringen, tätig bin ich im gesamten deutschsprachigen Raum. Analyse, Konzeption, Einrichtung und Schulung funktionieren remote zuverlässig. Für Workshops, die Inbetriebnahme von Hardware oder einen Auftakttermin komme ich vorbei.