Eigene Sprachmodelle im eigenen Haus
Wir liefern nicht nur Dokumenten-KI. Wir wählen, passen an und betreiben vollwertige Sprachmodelle auf Ihrer Infrastruktur, mit Anbindung an Ihre Daten und Fachsysteme. Keine Eingabe geht an einen Modellhersteller.
Mehr als Dokumenten-KI: ein vollwertiges Sprachmodell
German-OCR ist aus der Arbeit an Modellen für Dokumente entstanden. Auf derselben Grundlage bieten wir die zweite Leistung an: Auswahl, Anpassung und Betrieb allgemeiner Sprachmodelle auf eigener Hardware.
Auswahl und Bereitstellung offener Modelle
Wir wählen aus den verfügbaren offenen Sprachmodellen das aus, das zu Ihrer Aufgabe, Ihrer Sprache und Ihrer Hardware passt, und stellen es einsatzfertig bereit. Kein Modellabo und keine Bindung an einen einzelnen Anbieter.
Betrieb auf Ihrer Hardware
Das Modell läuft auf Ihren Servern oder in Ihrem Rechenzentrum. Auf Wunsch betreiben wir es auf dedizierter Hardware für Sie. Sie entscheiden, wo das Modell liegt und wer darauf zugreifen darf.
OpenAI-kompatible Schnittstelle
Die Instanz spricht das verbreitete OpenAI-Protokoll. Bestehende Anwendungen, SDKs und Werkzeuge lassen sich in der Regel ohne Codeänderung anbinden. Es genügt, Endpunkt und Schlüssel zu tauschen.
Text- und Bildverständnis
Textmodelle für Analyse, Zusammenfassung und Dialog sowie Modelle, die Seiten, Tabellen und Abbildungen im Zusammenhang erfassen. Beides in derselben Instanz und über dieselbe Schnittstelle.
Sprachein- und -ausgabe
Auf Wunsch ergänzen wir Transkription und Sprachausgabe. Diktat, Protokollierung und sprachgeführte Anwendungen bleiben damit ebenfalls im eigenen Haus.
Einrichtung, Updates und Betrieb
Installation, Überwachung und Modellwechsel übernehmen wir. Ihre IT erhält eine betriebsfähige Instanz und einen festen Ansprechpartner.
Leistungsfähige Modelle auf vorhandener Hardware
Ein eigenes Sprachmodell scheitert selten an der Lizenz, sondern an der Hardware. Wir legen die Instanz so aus, dass sie zu Ihrem Bedarf und zu Ihren Servern passt, und prüfen vor jeder Beschaffung, was auf Ihrer Hardware sinnvoll läuft.
- Betrieb auf einer einzelnen professionellen Grafikkarte möglich
- Prüfung an Ihren eigenen Aufgaben, bevor Sie investieren
- Auslegung nach Nutzerzahl und Anwendungsfall
- Empfehlung der Hardware, die Ihren Bedarf zuverlässig trägt
Vorhandene Hardware
Wo es geht, nutzen wir Server und Grafikkarten, die bereits im Haus stehen.
Vorab geprüft
Antwortzeit und Zahl der gleichzeitigen Nutzer prüfen wir auf der vorgesehenen Hardware, bevor Sie investieren.
Passend ausgelegt
Statt der größten verfügbaren Karte empfehlen wir die, die Ihren Anwendungsfall zuverlässig trägt.
Kalkulierbar
Einmalige Hardware statt laufender Tokenkosten. Die Betriebskosten kennen Sie vorab.
Ein Modell, das Ihre Fachsprache beherrscht
Allgemeine Modelle kennen die allgemeine Sprache. Ihre Abläufe, Ihre Dokumentarten und Ihre Begriffe kennen sie nicht. Genau dafür passen wir Modelle an: auf Ihren Daten, in Ihrer Umgebung, überprüfbar an Ihren eigenen Beispielen.
Anpassung auf Ihre Daten
Das Modell wird auf Ihre Dokumente, Ihre Formulierungen und Ihre Aufgaben abgestimmt. Die Anpassung findet in Ihrer Umgebung statt.
Fachsprache
Fachbegriffe, Abkürzungen, Normbezüge und hausinterne Bezeichnungen sind der Grund, warum allgemeine Modelle in Fachabteilungen ungenau bleiben. Genau hier setzen wir an.
Mehrere Fachbereiche
Mehrere Abteilungen oder Dokumentarten lassen sich auf einer gemeinsamen Grundlage abbilden und getrennt voneinander pflegen.
Abnahme an Ihren Beispielen
Ob die Anpassung gelungen ist, zeigt sich an Aufgaben aus Ihrem Haus, nicht an öffentlichen Ranglisten.
Daten bleiben im Haus
Weder Dokumente noch daraus abgeleitete Daten verlassen Ihr Netzwerk. Der angepasste Modellstand gehört Ihnen.
Laufende Pflege
Neue Dokumentarten und Begriffe nehmen wir im Betrieb auf. Das Modell wächst mit Ihrem Bestand.
Vom Sprachmodell zur nutzbaren Anwendung
Ein Modell allein beantwortet keine Frage zu Ihrem Vertragsbestand und legt kein Ticket an. Erst die Anbindung an Ihre Dokumente und Fachsysteme macht daraus eine Anwendung, mit der gearbeitet wird.
Anbindung eigener Dokumentenbestände
Fachablagen, Handbücher, Verträge und Wissenssammlungen werden erschlossen und dem Modell als Wissensquelle zur Verfügung gestellt.
Suche nach Bedeutung
Die Suche findet Inhalte auch dann, wenn im Dokument andere Worte stehen als in der Frage.
Quellenangaben in den Antworten
Antworten verweisen auf die zugrunde liegenden Stellen. Aussagen bleiben überprüfbar.
Handeln statt beschreiben
Das Modell löst definierte Aktionen in Ihren Systemen aus, statt sie nur zu beschreiben. Das ist die Grundlage für Assistenten, die tatsächlich etwas erledigen.
Strukturierte Ausgaben
Ergebnisse kommen in einem festen Format, das nachgelagerte Systeme direkt übernehmen können.
Anbindung an Fachsysteme
ERP, DMS, Ticketsysteme oder eigene Fachanwendungen werden angebunden, kontrolliert und auf definierte Aktionen begrenzt.
Datenhoheit, planbare Kosten, eigene Verfügbarkeit
Der Betrieb im eigenen Haus ist kein Selbstzweck. Er löst drei Probleme, die bei externen Modell-APIs bestehen bleiben: Datenabfluss, unvorhersehbare Kosten und Abhängigkeit von fremder Kapazität.
Keine Übermittlung an Modellhersteller
Prompts, Dokumente und Antworten verlassen Ihre Infrastruktur nicht. Es gibt keinen externen Dienst, der Ihre Eingaben sieht, speichert oder auswertet.
Kein Drittstaatentransfer
Wo keine Daten übertragen werden, entfällt die Frage nach einer Rechtsgrundlage für den Transfer in Drittstaaten. Das vereinfacht die datenschutzrechtliche Bewertung erheblich.
Planbare Kosten ohne Tokenabrechnung
Die Kosten hängen an der Hardware, nicht am Nutzungsvolumen. Intensive Nutzung verteuert den Betrieb nicht.
Unabhängig von Rate-Limits
Die Verfügbarkeit bestimmt Ihre eigene Kapazität, nicht die Kontingente eines Anbieters.
Stabiler Modellstand
Externe Modelle ändern sich, ohne dass Sie es steuern. Ein Modell im eigenen Haus bleibt so, wie Sie es geprüft und freigegeben haben. Aktualisiert wird nur, wenn Sie es wollen.
Vollständige Zugriffskontrolle
Wer die Instanz nutzen darf, welche Anwendung welche Rechte hat und was protokolliert wird, legen Sie fest, innerhalb Ihrer bestehenden Sicherheitsarchitektur.
Vom Erstgespräch zur produktiven Instanz
Wir beginnen bei Ihren Anwendungsfällen und Ihrer Hardware, nicht bei einem Modellnamen. Umfang, Auslegung und Integration legen wir gemeinsam mit Ihrer IT fest.
Erstgespräch und Anforderungen
Wir klären Anwendungsfälle, Nutzerzahl, Zielsysteme und die Vorgaben Ihrer IT an Netz, Betrieb und Zugriff.
Pilot
Wir stellen eine Instanz bereit, und Sie prüfen sie an Ihren eigenen Aufgaben auf der vorgesehenen Hardware.
Integration und Betrieb
Anbindung Ihrer Anwendungen, auf Wunsch Anpassung auf Ihren Bestand, dazu Einrichtung, Updates und Betrieb mit vereinbarten Reaktionszeiten.
Leistungsumfang der Instanz
Modellwahl, Auslegung, Integrationen und Betrieb individuell nach Ihrem Bedarf.
- Dedizierte Instanz auf Ihrer Hardware oder bei uns
- Offene Sprachmodelle, ausgewählt nach Ihrem Anwendungsfall
- OpenAI-kompatible Schnittstelle für bestehende Anwendungen
- Text- und Bildverständnis in derselben Instanz
- Optional Transkription und Sprachausgabe
- Anpassung auf Ihre Fachsprache und Ihren Bestand
- Zugriff auf Ihre Dokumente mit Quellenangaben
- Anbindung an ERP, DMS und Fachanwendungen
- Auslegung passend zu Ihrer Hardware
- Einrichtung, Updates und Betrieb durch uns
Sprechen wir über Ihr eigenes Sprachmodell
Wir sehen uns Ihre Anwendungsfälle an und planen Auslegung, Anbindung und Betrieb gemeinsam mit Ihrer IT.