LOKALE KI · ON-PREMISE · DSGVO

KI wie ChatGPT – auf Ihrem eigenen Server statt in der US-Cloud

Lokale KI ist ein Sprachmodell auf Ihrem Server oder einem dedizierten Server in der EU, das aus Ihren Dokumenten mit Quellenangabe antwortet. In 5 Werktagen sehen Sie kostenlos Antworten aus 50 Ihrer Dokumente und einen Hardwarevorschlag; das Pilotprojekt kostet ab 3.200 € zzgl. MwSt.

Kostenlosen Test mit 50 Dokumenten anfordernUnter NDA · Ergebnisse binnen 5 Werktagen
Schnell und kostenlos:KI-Kostenrechner: Cloud vs. ServerReferenzenOlingo Medical · Rowan Legal

Hinterlassen Sie Ihre Nummer, ich rufe Sie an

Krystof Olik · Gründer und CEO

Werktags noch am selben Tag, sonst am nächsten Werktag vormittags.

Oder schreiben Sie mir direkt an info@ollsoft.ai

Wir nutzen Ihre Angaben nur für diese Anfrage. Datenschutz
ChatGPT Business
20 USD pro Nutzer und Monat bei jährlicher Zahlung (OpenAI, 23.10.2026)
Offenes Modell gpt-oss-120b
läuft auf einer einzigen 80-GB-GPU (Model Card von OpenAI)
NVIDIA RTX PRO 6000
96 GB Grafikspeicher, max. 600 W (NVIDIA)
KI im Betrieb
Betriebsrat rechtzeitig unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG)
PreiseTest: kostenlosPilotprojekt: ab 3.200 €Betrieb: ab 490 € / MonatZum Angebot

Warum Ollsoft?

Wir sind Ingenieure, die lokale KI selbst bauen und betreiben: vom GPU-Server bis zur Antwort aus Ihren Dokumenten.

  • den GPU-Server planen, verkabeln und liefern wir schlüsselfertig
  • ohne Public Cloud läuft unsere KI schon auf den Servern zweier tschechischer Universitätskliniken und der Kanzlei Rowan Legal
  • Ihr Vertragspartner ist die Ollsoft GmbH mit Sitz in Garching bei München (Amtsgericht München, HRB 299893)
  • das Modell können wir per Feintuning an Ihre Daten anpassen; der Adapter gehört Ihnen
Ein Ollsoft-Ingenieur schließt ein Stromkabel in einem offenen Server voller GeForce-RTX-Grafikkarten an

Was kann lokale KI?

Lokale KI ist ein Sprachmodell mit Dokumentensuche (RAG), das in Ihrem Haus oder auf einem dedizierten Server in der EU läuft. Sie beantwortet Fragen aus Ihren Dokumenten: Zuerst findet sie die passenden Passagen, daraus formuliert das Sprachmodell die Antwort. Modell und Suchindex laufen auf Hardware, die Sie kontrollieren.

  • Fragen zu internen Richtlinien, Verträgen und technischer Dokumentation
  • Zusammenfassungen langer Akten und Vergleich von Dokumentversionen
  • Antwortentwürfe für Kunden aus Ihrer Wissensdatenbank
  • Daten, die nicht in öffentliche KI dürfen: Gesundheitsdaten, personenbezogene Daten, Geschäftsgeheimnisse

Ist ChatGPT für Unternehmen DSGVO-konform?

Das hängt von den Daten ab: Für allgemeine Texte reicht ein Cloud-Chatbot, aber jede Anfrage geht an den Anbieter, auch mit personenbezogenen Daten und Geschäftsgeheimnissen.

  • der Anbieter ist Ihr Auftragsverarbeiter nach Art. 28 DSGVO
  • OpenAI gibt für den Business-Tarif an, standardmäßig nicht mit Unternehmensdaten zu trainieren; entscheidend ist, wer Zugriff hat und welches Recht gilt
  • Übermittlungen in die USA stützen sich auf den Angemessenheitsbeschluss vom 10.7.2023 (EU-US Data Privacy Framework)
  • beide Vorgänger hat der EuGH gekippt: Safe Harbor 2015, Privacy Shield 2020
  • nach dem US CLOUD Act muss ein US-Anbieter auf Anordnung eines US-Gerichts oder einer US-Behörde Daten herausgeben, unabhängig vom Standort des Servers
  • auf dem eigenen Server entfallen diese Fragen: Die Daten bleiben in Ihrem Netz

Welchen KI-Server brauche ich für wie viele Mitarbeitende?

Entscheidend sind Modellgröße und tägliches Textvolumen, nicht die Zahl der Beschäftigten.

  • ein Modell belegt etwa ein Byte pro Parameter bei 8-Bit-Genauigkeit und die Hälfte bei 4-Bit-Quantisierung, plus Reserve für den Kontext: gpt-oss-120b passt auf eine 80-GB-GPU, gpt-oss-20b in 16 GB
  • bis 20 Personen und für das Pilotprojekt: kompakter KI-Rechner mit 128 GB Unified Memory (NVIDIA DGX Spark, Mac Studio), ab 6.000 €
  • bis etwa 150 Personen: Server mit einer NVIDIA RTX PRO 6000 Blackwell (96 GB), rund 24.000 €
  • bis etwa 300 Personen: Server mit zwei solchen GPUs, rund 39.000 €
  • Hunderte Nutzer, Agenten rund um die Uhr oder Modelle über 200 Mrd. Parameter: 4 bis 8 GPUs, ab 69.000 €
  • Richtwerte nach unserer Preisschätzung vom Oktober 2026, zzgl. MwSt.; Nutzerzahlen konservativ für 20 Anfragen pro Person und Tag mit mittlerem Modell, die echte Kapazität misst der Lasttest im Pilotprojekt

Welche Modelle setzen Sie ein?

Offene Modelle, deren Lizenz den Betrieb auf eigener Hardware erlaubt.

  • etwa gpt-oss von OpenAI oder Mistral Small 4 und Mistral Large 3 vom französischen Anbieter Mistral AI, alle unter Apache 2.0
  • wir wählen nach Ihren Dokumenten und Sprachen
  • im Test mit 50 Dokumenten vergleichen wir zwei bis drei Kandidaten
  • reicht ein fertiges Modell nicht, trainieren wir einen eigenen LoRA-Adapter auf Ihren Daten
  • Adapter und alle Updates gehören Ihnen

Was kostet ein eigener KI-Server im Vergleich zur Cloud?

Bei 100 Personen, 20 Anfragen pro Tag und mittlerem Modell amortisiert sich der eigene Server gegenüber ChatGPT Business im 25. Monat, gegenüber der Cloud-API im reinen Chatbetrieb nie.

  • Cloud-API (gpt-6.1-sol mit EU-Verarbeitung): rund 450 € im Monat
  • ChatGPT Business: rund 1.790 € im Monat
  • eigener Server: rund 27.200 € einmalig inklusive Pilotprojekt, dazu 670 € monatlich für Betrieb und Strom
  • er lohnt sich, wenn die Daten nicht zum Anbieter dürfen, wenn er Lizenzen pro Kopf ersetzt oder wenn Agenten Dokumente rund um die Uhr verarbeiten
  • Ihre eigenen Zahlen rechnet unser KI-Kostenrechner

ANGEBOT

Vom kostenlosen Test zum eigenen KI-Server

Zuerst sehen Sie Antworten aus Ihren eigenen Dokumenten. Danach entscheiden Sie über das Pilotprojekt.

Schritt 1 · Hier starten

Test mit 50 Ihrer Dokumente in 5 Werktagen

Sie wissen, wie die KI aus Ihren Dokumenten antwortet und welche Hardware Sie bräuchten.

Kostenlos

Das bekommen Sie

  • 30 Minuten mit einem Ingenieur: Auswahl der Dokumente und 20 Testfragen
  • Sie schicken uns die Dokumente; Test auf einem isolierten Server in der EU unter NDA, ohne Zugriff auf Ihre Systeme
  • Antworten mit Verweis auf das Quelldokument
  • Vergleich von zwei bis drei offenen Modellen
  • erste Hardwareempfehlung und Festpreis für das Pilotprojekt
  • nach dem Test löschen wir die Dokumente
Kostenlosen Test mit 50 Dokumenten anfordern

Schritt 2

Pilotprojekt in 14 Tagen

Die KI läuft mit Ihren Dokumenten, Ihr Team nutzt sie im Arbeitsalltag.

ab 3.200 €zzgl. MwSt.

Das bekommen Sie

  • Prüfung Ihrer Infrastruktur und Dokumentquellen, Installation auf Ihrem Server oder einem dedizierten Server in der EU
  • Anbindung von Netzlaufwerken oder SharePoint
  • Weboberfläche für bis zu 20 Nutzer
  • Auswertung der Antworten mit Ihrem Fragenkatalog
  • Lasttest und finale Hardwareauslegung
Angebot anfordern

Schritt 3

Eigener KI-Server im Betrieb

Die KI läuft dauerhaft bei Ihnen, aktuell und überwacht.

ab 490 € / Monatzzgl. MwSt. + Hardware

Das bekommen Sie

  • Lieferung des Servers oder Installation auf Ihrer Hardware
  • Modell-Updates und Sicherheitspatches
  • Monitoring, Backups, laufende Aufnahme neuer Dokumente
  • quartalsweise Prüfung der Antworten mit Ihrem Fragenkatalog
  • Support an Werktagen
Angebot anfordern

INKLUSIVE

Im Pilotprojekt zusätzlich enthalten

  • Unterlagen für Ihren Datenschutzbeauftragten: Datenflüsse und Vorlage für die Datenschutz-Folgenabschätzung
  • technische Beschreibung für die Unterrichtung des Betriebsrats nach § 90 BetrVG
  • einstündige Nutzerschulung als Nachweis von Maßnahmen zur KI-Kompetenz nach Art. 4 KI-Verordnung

GARANTIE

Kein Geld für das Pilotprojekt, wenn es die vereinbarten Kriterien verfehlt

Vor dem Pilotprojekt legen wir schriftlich Testfragen fest und was als richtige Antwort gilt. Erfüllt die KI die Kriterien am Ende nicht, zahlen Sie das Pilotprojekt nicht.

Kostenlosen Test mit 50 Dokumenten anfordern

Unter NDA · Ergebnisse binnen 5 Werktagen

Hinterlassen Sie Ihre Nummer, ich rufe Sie an

Krystof Olik · Gründer und CEO

Werktags noch am selben Tag, sonst am nächsten Werktag vormittags.

Oder schreiben Sie mir direkt an info@ollsoft.ai

Wir nutzen Ihre Angaben nur für diese Anfrage. Datenschutz

ABLAUF

So läuft es ab

  1. 01

    Rückruf noch heute

    Kurzes Gespräch: welche Dokumente, wie viele Nutzer, wo die Daten liegen dürfen. Ohne Zugriff auf Ihre Systeme.

  2. 02

    Test mit 50 Dokumenten

    Sie schicken uns die Dokumente. In 5 Werktagen Antworten auf Ihre Fragen und ein Hardwarevorschlag.

  3. 03

    Pilotprojekt in 14 Tagen

    Prüfung der Infrastruktur, Installation, die KI im Einsatz bei Ihrem Team. Wir messen Qualität und Last.

  4. 04

    Betrieb

    Server bei Ihnen, Updates und Überwachung durch uns.

VERGLEICH

Chatbot-Abo, Cloud-API oder eigener Server?

Chatbot-AboCloud-APIEigener Server
Wo die Daten verarbeitet werdenChatbot-Abo: beim Anbieter; EU-Datenresidenz erst im Enterprise-TarifCloud-API: beim Anbieter; EU-Region mit 10 % Aufpreis, Systemdaten können trotzdem außerhalb liegenEigener Server: in Ihrem Netz, auch ohne Internet
PreisChatbot-Abo: pro Nutzer, z. B. 20 USD im MonatCloud-API: pro Token, z. B. 2 USD je 1 Mio. Eingabe- und 10 USD je 1 Mio. Ausgabe-TokensEigener Server: Hardware einmalig + fester Monatsbetrag
Ihre DokumenteChatbot-Abo: laden Sie beim Anbieter hochCloud-API: Suche bauen Sie selbstEigener Server: wir binden Ihre Laufwerke und Systeme an
ModellwahlChatbot-Abo: Modelle des AnbietersCloud-API: Modelle des AnbietersEigener Server: offene Modelle, auf Ihren Daten anpassbar
Preis- oder ModelländerungChatbot-Abo: entscheidet der AnbieterCloud-API: entscheidet der AnbieterEigener Server: entscheiden Sie

Vergleich von Kategorien. Preisbeispiele: ChatGPT Business und gpt-6.1-sol laut OpenAI-Preislisten vom 23.10.2026.

REFERENZEN

Wo unsere KI schon ohne Public Cloud läuft

Olingo Medical

KI für die medizinische Dokumentation (Spracherkennung und OCR) nutzen mehr als 10 Krankenhäuser und Kliniken. In zwei tschechischen Universitätskliniken läuft sie auf deren eigenen GPU-Servern vollständig lokal, ohne Cloud-Dienste; Patientendaten verlassen das Kliniknetz nicht.

Fallstudie

Rowan Legal

KI-Agenten auf den eigenen Servern einer Kanzlei: Suche in Akten und Rechtsprechung, keine externen API-Aufrufe.

Fallstudie

KONTAKT

In 5 Werktagen sehen Sie KI mit Ihren eigenen Dokumenten

Hinterlassen Sie Ihre Nummer. Wir rufen noch heute an, legen 50 Dokumente und die Testfragen fest und zeigen die Antworten binnen 5 Werktagen. Kostenlos, unverbindlich und ohne Zugriff auf Ihre Systeme.

Hinterlassen Sie Ihre Nummer, ich rufe Sie an

Krystof Olik · Gründer und CEO

Werktags noch am selben Tag, sonst am nächsten Werktag vormittags.

Oder schreiben Sie mir direkt an info@ollsoft.ai

Wir nutzen Ihre Angaben nur für diese Anfrage. Datenschutz

HÄUFIGE FRAGEN

Was Kunden uns fragen

Bei allgemeinen Fragen liegen die besten Cloud-Modelle meist vorn. Bei Antworten aus Ihren Dokumenten entscheidet vor allem die Suche. Ob ein offenes Modell für Ihre Dokumente reicht, zeigt der Test mit 50 Dokumenten, bevor Sie etwas bezahlen.

Planen Sie KI, müssen Sie ihn rechtzeitig unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG). Kann das System Verhalten oder Leistung überwachen, hat er ein Mitbestimmungsrecht (§ 87 Abs. 1 Nr. 6 BetrVG). Wir liefern die technischen Fakten für die Betriebsvereinbarung; die rechtliche Bewertung bleibt bei Ihrer Kanzlei.

Ihre Nutzer und für die Wartung auch wir, im Rahmen einer Auftragsverarbeitung nach Art. 28 DSGVO. Läuft der Server air-gapped, also ohne jede Verbindung nach außen, spielen wir Updates vor Ort ein.

Nein. Ein kompakter KI-Rechner passt auf den Schreibtisch, ein GPU-Server gehört ins Rack oder in einen klimatisierten Raum. Wollen Sie keinen Server im Haus, betreiben wir ihn dediziert in der EU, ohne geteilte Infrastruktur mit anderen Kunden.

Der Test ist kostenlos. Das Pilotprojekt kostet ab 3.200 € zzgl. MwSt., inklusive Prüfung Ihrer Infrastruktur und Installation. Betrieb ab 490 € im Monat zzgl. MwSt., Hardware je nach Volumen ab etwa 6.000 €. Sie zahlen einen festen Betrag, keine Tokens.

Der eigene Server beseitigt die Übermittlung an Anbieter und in Drittländer. Rechtsgrundlage, Information der Betroffenen und Verarbeitungsverzeichnis bleiben bei Ihnen; Unterlagen für den Datenschutzbeauftragten liefern wir. Rechtsberatung leisten wir nicht.

Sie ergänzen GPUs oder tauschen das Modell. Dokumente, Suchindex und Oberfläche bleiben, Ihre Nutzer müssen nichts neu lernen.