Lokale KI und KI-Agenten
Lokale KI und KI-Agenten für Ihre eigenen Daten. KI, die im Haus bleibt und nur tut, was Sie erlauben.
Nicht jede Information darf in eine fremde Cloud. Ich richte KI-Sprachmodelle ein, die auf eigener Hardware bei Ihnen laufen, und baue KI-Agenten, die Posteingang, Rechnungen und Auswertungen vorbereiten. Was nach aussen geht, geben Sie frei.
01 Worum es geht
Warum nicht einfach die Cloud
Die besten Ideen für KI betreffen oft genau die Unterlagen, die das Haus nicht verlassen sollen: Verträge, Personaldossiers, Mandanten- und Kundendaten, Gesuche, Gutachten. Wer sie einem Cloud-Dienst gibt, muss wissen, wer darauf zugreifen kann, und ein Rechenzentrum in der Schweiz allein beantwortet das nicht.
Ist die Frage offen, bleibt die Arbeit, wie sie ist. Oder sie geschieht trotzdem, weil Mitarbeitende Texte in ChatGPT kopieren, wenn es schneller geht. Beides kostet, nur auf verschiedene Art.
Dazu kommt der Wunsch, Arbeit nicht nur zu beschleunigen, sondern abzugeben: den Posteingang vorsortieren, Rechnungen vorbereiten, Auswertungen erstellen. Dafür braucht es KI-Agenten. Bei ihnen zählt, was sie dürfen, noch mehr als der Ort, an dem sie laufen.
Wie ich vorgehe
- Daten einteilen und entscheiden. Wir legen fest, welche Daten öffentlich, intern oder vertraulich sind und welche Aufgabe mit welchen Daten arbeitet. Ob eine Aufgabe im Haus oder in der Cloud läuft, entscheiden dann vier Dinge: der Schutzbedarf der Daten und die Vorgaben aus Gesetz, Vertrag oder Auftrag, die Menge der Dokumente und damit die laufenden Kosten, die gewünschte Unabhängigkeit von einem Anbieter und die Qualität, die die Aufgabe verlangt.
- Ein Rechner, eine Aufgabe. Wo es im Haus sein muss, beginnen wir mit einem einzelnen leistungsfähigen Rechner im Büro und einer Aufgabe, getestet an echten Dokumenten. Die offenen KI-Sprachmodelle lassen sich später wechseln, ohne die Lösung neu zu bauen.
- Agenten mit Freigabe. Ein Agent bereitet vor, Sie geben frei. Was er darf, steht in der Software und nicht in einer Anweisung an das Modell: Ohne Ihre Freigabe kann die Lösung nichts nach aussen senden. Die vier Grundsätze dahinter stehen unter KI-Lösungen.
- Die Cloud, wo sie besser ist. Für anspruchsvolle Texte sind die grossen Modelle stärker. Je Aufgabe legen wir fest, welches Modell sie bearbeitet, und vertrauliche Angaben werden unkenntlich gemacht, bevor ein Modell in der Cloud sie sieht.
- Betrieb. Aktualisierungen, Modellwechsel und Sicherung übernehme ich auf Wunsch im Begleitmandat, oder Ihre Informatik übernimmt nach einer Einführung.
Was Sie davon haben und was es kostet
Vertrauliche Unterlagen lassen sich mit KI bearbeiten, ohne die Firma zu verlassen. Wohin welche Daten gehen, ist für jede Aufgabe einzeln festgelegt und schriftlich festgehalten. Agenten nehmen Ihnen die Vorbereitung ab, und jede ihrer Aktionen ist protokolliert. Microsoft 365, Buchhaltung und CRM bleiben, wo sie sind; angebunden wird über ihre Schnittstellen.
Lokale KI hat ihren Preis, und ich nenne ihn von Anfang an: die Anschaffung des Rechners, Strom und die Pflege. Dazu kommt, dass ein lokales Modell bei anspruchsvollen Texten schwächer ist als die grossen Modelle in der Cloud. Darum empfehle ich eigene Hardware nur, wo die Daten es verlangen, und rechne sie im Konzept über mehrere Jahre mit, denn die laufenden Kosten zählen: Fast zwei Drittel der Finanzchefs in der Schweiz erwarten durch KI steigende IT-Ausgaben. Meine Arbeit wird nach Aufwand abgerechnet, mit einem Kostendach, das wir vor Beginn vereinbaren (Konditionen).
Quelle: Deloitte, CFO-Umfrage Schweiz, Frühling 2026.
Warum mit mir
Ich arbeite selbst so. InnoSmith OS bereitet in meiner Firma Post, Aufgaben, Rechnungen und Auswertungen vor, mit einem Sprachmodell auf einem Rechner im Büro. Was nach aussen geht, gebe ich frei. Vieles von dem, was ich empfehle, kenne ich deshalb aus dem eigenen Betrieb, mit seinen Stärken und Grenzen.
Datenregeln, Hardware, Agenten und Betrieb kommen aus einer Hand. Damit muss Ihr Team nicht zuerst das Fachwissen für jeden dieser Teile aufbauen, und niemand schiebt eine Frage an den nächsten Anbieter weiter.
Ich bin an keinen Hersteller von Hardware, Modellen oder Software gebunden und schlage vor, was zu Ihren Daten passt. Dazu gehört auch die Empfehlung, keinen eigenen Rechner anzuschaffen, wo die Cloud genügt.
02 KI-Lösungen
Lösungen, die lokal laufen.
- 01 InnoSmith OS Ein Arbeitsplatz, in dem KI Post, Aufgaben und Auswertungen vorbereitet – mit einem Sprachmodell, das bei Ihnen im Haus läuft
- 02 Vertrauliche Dokumente anonymisieren Namen und Kennzahlen ersetzen, bevor KI ein Dokument bearbeitet – und danach zurück
- 03 InvoiceInsight Lieferantenrechnungen verbuchen – und sehen, wofür Ihr Geld geht
- 04 Ein KI-Arbeitsplatz für das Treuhandbüro Eine Anmeldung, ein Ort – für den KI-Chat im eigenen Haus und die Fachanwendungen
- 05 Steuerdokumente prüfen Steuerrechnungen und definitive Veranlagungen gegen die eigenen Zahlen prüfen
- 06 Kundenstammdaten prüfen Fehler in gewachsenen Kundendaten finden, bevor sie in ein neues System wandern
03 Fragen
Häufige Fragen.
Ist lokale KI so gut wie ChatGPT?
Für viele Aufgaben im Alltag genügt sie: Dokumente lesen, Angaben herauslesen, Post einordnen, Entwürfe schreiben. Bei anspruchsvollen Texten und langen Überlegungen sind die grossen Modelle in der Cloud stärker. Darum lege ich je Aufgabe fest, welches Modell sie bearbeitet, und vertrauliche Angaben werden unkenntlich gemacht, bevor ein Modell in der Cloud sie sieht.
Was ist ein KI-Agent?
Ein Programm, das mit einem KI-Sprachmodell eine Aufgabe in mehreren Schritten erledigt: eine E-Mail lesen, die passenden Unterlagen suchen, einen Entwurf schreiben. Was er darf, legt die Software fest, nicht eine Bitte an das Modell. Bei mir sendet ein Agent nichts nach aussen ohne Ihre Freigabe.
Brauchen wir dafür eigene Hardware?
Das entscheiden vier Dinge: der Schutzbedarf der Daten und die Vorgaben aus Gesetz, Vertrag oder Auftrag, die Menge der Dokumente und damit die laufenden Kosten, die gewünschte Unabhängigkeit von einem Anbieter und die Qualität, die die Aufgabe verlangt. Ein eigener Rechner kostet Anschaffung, Strom und Pflege; ich rechne ihn im Konzept mit. Für viele Aufgaben genügt ein einzelner leistungsfähiger Rechner im Büro.
Mit welcher Software laufen die Modelle?
Mit offenen KI-Sprachmodellen, die frei verfügbar sind, betrieben etwa mit Ollama. Welches Modell passt, hängt von der Aufgabe ab, und es lässt sich später wechseln, ohne die Lösung neu zu bauen.
Können Microsoft 365 und unsere Buchhaltung in der Cloud bleiben?
Ja. Das Sprachmodell läuft im Haus, die Programme bleiben, wo sie sind, und werden über ihre Schnittstellen angebunden.
→ Termin
Wo fangen Sie an?
Das klären wir im ersten Gespräch: worum es geht, was ein gutes Ergebnis wäre und ob wir zusammenpassen. 15 oder 45 Minuten, kostenlos, per Teams oder Telefon.
Lieber zuerst allein einschätzen? Zum Selbsttest ↗ – 44 Aussagen, rund 10 bis 15 Minuten, ohne Anmeldung.
Fragen dazu?