Häufig gestellte Fragen
Häufig gestellte Fragen
Wo laufen die KI-Modelle?
Die Modelle laufen bei Ihnen: auf Hardware in Ihrem Haus (Workstation, Server, kompakte KI-Workstation) oder auf Servern in Ihren Rechenzentren, die vertraglich und organisatorisch unter Ihrer Kontrolle stehen. Anfragen, Dokumente und Gesprächsinhalte bleiben in dieser Umgebung.
Technisch setzen wir auf einen lokalen Inferenz-Stack (in der Regel vLLM) hinter Ihrer Firewall bzw. in Ihrem Netz. Sie entscheiden, wer Zugriff hat, welche Logs geschrieben werden und wann Updates eingespielt werden.
Warum lokale KI statt ChatGPT und ähnlicher Dienste?
Cloud-Assistenten sind bequem, binden Sie aber an fremde Infrastruktur: Inhalte verlassen Ihr Haus, Preise und Limits können sich ändern, und Nutzungsbedingungen können Anwendungsfälle einschränken. Lokale KI dreht dieses Verhältnis um – Sie betreiben das Modell dort, wo Ihre Arbeit schon stattfindet.
Praktisch gewinnen Sie drei Dinge. Erstens Planbarkeit: statt nutzungsabhängiger Rechnungen tragen Sie vor allem Hardware- bzw. Hosting- und Energiekosten. Zweitens Verfügbarkeit ohne Drosselung. Drittens freie Verwendung der Modelle, etwa für interne Auswertung, Automatisierung oder Sicherheitsprüfungen.
Bieten Sie auch Cloud-Lösungen an?
Unser Angebot ist der lokale Betrieb: Modelle und Daten bleiben in Ihrer Umgebung. Wir verkaufen keine gehostete Multi-Tenant-KI und wickeln Ihre Workloads nicht über öffentliche API-Anbieter ab.
Wenn ein Cloud-Dienst für Ihren Fall besser passt (sehr variable Last, kein eigener Betriebswunsch, rein öffentliche Inhalte), sagen wir das im Gespräch klar.
Welcher Chatbot ist der richtige für uns?
Die Wahl hängt vor allem davon ab, woher die Antworten kommen und welche Systeme angebunden werden müssen.
Der Chatbot Basis eignet sich, wenn Fragen und Antworten weitgehend fest stehen (FAQ, Service-Skript, Website-Hilfe). Es gibt keine Dokumentensuche über große Wissensbestände; dafür gehen Einrichtung und Wartung schnell, und der Einstieg liegt bei etwa 1.000 EUR.
Die LLM-basierte Knowledge Base (Wiki) ist der richtige Schritt, wenn Mitarbeitende Fragen an Ihre eigenen Unterlagen stellen sollen. Dafür bauen wir eine RAG-Strecke (Aufbereitung, Suche, lokales Modell, Pflege-UI). Ab etwa 2.000 EUR, je nach Datenumfang.
Die Komplettlösung kombiniert RAG mit Systemintegration, Rollenkonzept und Monitoring – typisch für Kundenservice und Portale.
Im Kurzgespräch klären wir Use-Case, Datenlage und Systeme und empfehlen bewusst auch den kleineren Einstieg, wenn er reicht.
Was sind KI-Agenten – und worin unterscheiden sie sich vom Chatbot?
Ein Chatbot führt ein Gespräch und liefert Antworten. Ein KI-Agent übernimmt Schritte in einem Arbeitsablauf: er liest Eingaben, entscheidet nach Regeln bzw. Modelllogik, ruft Werkzeuge auf und erzeugt ein Ergebnis.
Typische Beispiele: eingehende E-Mails vorsortieren, Felder aus Verträgen oder Formularen extrahieren, Datensätze abgleichen, wiederkehrende Reports erzeugen oder Tickets mit Kontext anreichern. Der Agent wird auf Ihren Prozess zugeschnitten und an Ihre vorhandenen Werkzeuge angebunden.
Chatbot und Agent schließen sich nicht aus: oft beantwortet ein Assistent Fragen, während Agenten im Hintergrund Routinen erledigen.
Brauchen wir eigene GPU-Hardware, zum Beispiel eine kompakte KI-Workstation?
Nicht zwingend. Viele Einstiegsprojekte laufen auf vorhandener Infrastruktur oder auf einem klar dimensionierten Server – solange Modellgröße, Nutzerzahl und Antwortzeiten dazu passen. Eigene Hardware wird relevant, wenn Sie große, aktuelle Modelle dauerhaft und performant lokal betreiben wollen oder mehrere Personen parallel arbeiten.
Kompakte KI-Workstations dieser Klasse – zum Beispiel NVIDIA DGX Spark, ASUS Ascent GX10 oder vergleichbare Systeme – sind dafür gedacht: ein einzelnes Gerät als Arbeitsplatz, zwei Geräte über eine schnelle Direktverbindung für ein kleines Team, ein Verbund ab drei Knoten für höhere Last. Die konkrete Plattform hängt von Last, Verfügbarkeit und Lieferzeit ab. Wir übernehmen Beschaffung, Netzintegration, Software-Stack und Einweisung. Wir sind unabhängiger Integrator, nicht Hersteller oder Partner der genannten Marken.
Wie gut sind Open-Weights-Modelle im Vergleich zu großen Cloud-Modellen?
Open-Weights-Modelle sind frei verfügbare Modellgewichte, die Sie lokal betreiben können. Für typische Unternehmensaufgaben – Zusammenfassen, strukturieren, entwerfen, Code unterstützen, interne Wissensfragen beantworten – liefern starke Modelle dieser Klasse heute oft Ergebnisse, die Teams im Alltag als sehr gut nutzbar bewerten.
Cloud-Modelle können in einzelnen Benchmarks oder sehr breiten Allgemeinwissensfragen noch punkten. Im Betrieb zählen gleichbleibende Verfügbarkeit, volle Kontrolle über Logs und Zugriffe sowie die Freiheit, das Modell auch für sensible Vorgänge einzusetzen.
Welches Modell zu Ihnen passt, hängt vom Anwendungsfall und von der Hardware ab. In der Beratung vergleichen wir Kandidaten an Ihren echten Beispielen.
Was kostet der laufende Betrieb?
Nach dem Go-live kalkulieren Sie vor allem Amortisation bzw. Miete der Hardware oder des Servers, Strom und Kühlung sowie den Aufwand für Betrieb und Updates. Gerade bei intensiver Nutzung wird das gegenüber nutzungsabhängigen Cloud-APIs oft planbarer.
Optional übernehmen wir die fortlaufende Betreuung: Updates, Monitoring, Fehlerbehebung und monatliche Statusreports. Die Stufe Basis beginnt bei 225 EUR pro Monat.
Im Angebot trennen wir einmalige Projektkosten und laufende Kosten klar.
Wie läuft ein typisches Projekt ab?
Am Anfang steht ein kurzes Briefing: Ziel, Nutzer, Datenquellen, Systeme und Erfolgskriterien. Daraus wird der Anwendungsfall greifbar – oft auch bewusst verkleinert, damit der erste Nutzen schnell sichtbar wird. Anschließend erhalten Sie ein Angebot mit Umfang, Annahmen und Zeitrahmen.
In der Umsetzung richten wir Modell und Stack ein, bereiten Daten auf, bauen Anbindungen und Oberfläche und testen mit Ihren Beispielen. Vor der Übergabe gibt es eine kurze Einweisung; optional starten wir direkt in die Wartung.
Sind Sie nur in Berlin und Brandenburg aktiv?
Unser Schwerpunkt vor Ort liegt in Berlin und Brandenburg: Workshops, Installationen und Schulungen lassen sich dort besonders unkompliziert organisieren. Bundesweit arbeiten wir remote – Architektur, Umsetzung, Reviews und Support funktionieren für viele Vorhaben vollständig online.
Schulungen können inhouse bei Ihnen stattfinden; Reisekosten rechnen wir gesondert ab. Wenn für Hardware-Abnahme oder Netzintegration jemand vor Ort sein sollte, planen wir das früh mit ein.
Welche Schulungen bieten Sie an?
Unsere Schulungen sind praxisnah und auf Ihr System bzw. Ihre Rolle zugeschnitten. Themenblöcke umfassen Grundlagen generativer KI, Prompt Engineering (klare Anweisungen, steuerbare Ergebnisse), Loop Engineering (Agenten-Schleifen: planen, ausführen, prüfen, iterieren), Graph Engineering (Wissen und Abhängigkeiten strukturieren) sowie Einführung in KI-Agenten. Dazu kommt der sichere Umgang mit lokalen Sprachmodellen im Arbeitsalltag.
Formate beginnen bei etwa 750 EUR pro halbem Tag. Auf Wunsch stellen wir eine Teilnahmebescheinigung aus. Inhouse vor Ort oder remote.
Sind wir zur KI-Kompetenz-Schulung verpflichtet?
Die EU-KI-Verordnung verlangt in Art. 4 von Anbietern und Betreibern, ein angemessenes Maß an KI-Kompetenz sicherzustellen – also dass Menschen, die mit KI-Systemen arbeiten oder sie verantworten, die Systeme ausreichend verstehen und einordnen können. Was „angemessen“ heißt, hängt von Rolle, Risiko und Einsatzkontext ab.
Unsere Implementierungen enthalten deshalb eine kurze, rollenbezogene Einweisung mit Teilnahmebescheinigung, die Sie zur Dokumentation Ihrer Schulungsmaßnahmen verwenden können. Unabhängig davon können Sie Schulungen auch einzeln buchen. Die Bewertung, ob Ihre Maßnahmen im Einzelfall ausreichen, bleibt Ihre Entscheidung bzw. die Ihrer Rechtsberatung.
Für wen ist das Angebot gedacht?
Unser Angebot richtet sich an Organisationen, die sensible Inhalte verarbeiten und den Betrieb im eigenen Haus oder unter eigener Kontrolle halten wollen. Dazu gehören Vereine und Verbände, Behörden und öffentliche Einrichtungen sowie kleine und mittlere Unternehmen, einschließlich Industrie und Forschung.
Typisch sind wiederkehrende Wissens- und Dokumentenarbeit und ein hoher Anspruch an Diskretion. Ob Chatbot, Knowledge Base, Agent oder lokale Hardware der richtige Hebel ist, entscheiden wir am konkreten Prozess.
Häufig gestellte Fragen
Antworten zu Produkten, Hardware, Ablauf und Betrieb.