FAQ zu KI-Funktionen

Bei der Einführung generativer KI ist die Datensicherheit meist die erste Frage. SetFN bietet KI-Funktionen auf zwei Wegen an: über lokale KI und über externe KI. Bei lokaler KI werden keine Daten nach außen übertragen, sodass sie sich für sicherheitskritische Umgebungen eignet. Dieses Dokument beantwortet häufig gestellte Fragen zu den KI-Funktionen.

Lokale KI vs. externe KI

Q: Was ist der Unterschied zwischen lokaler und externer KI?

Bei lokaler KI wird das Modell mit einer KI-Laufzeitumgebung (Ollama, LM Studio usw.) auf dem SetFN-Server oder einem Server im selben Netzwerk ausgeführt. Bei externer KI wird die API eines externen Dienstes wie OpenAI oder Anthropic aufgerufen.

Aspekt	Lokale KI	Externe KI
Datenübertragung	Verlässt die Geräte der Organisation nicht	Wird an den externen Dienst übertragen
Internet erforderlich	Nein	Ja
Antwortqualität	Abhängig vom Modell	Große Modelle nutzbar
Kosten	Nur Serverbetriebskosten	Abrechnung pro API-Aufruf
Sicherheit	Von der Organisation selbst verwaltet	Abhängig von den Richtlinien des externen Dienstes

Q: Welche Methode sollte in sicherheitskritischen Umgebungen gewählt werden?

Verwenden Sie lokale KI. Bei lokaler KI findet die gesamte Verarbeitung auf den Geräten Ihrer Organisation statt, sodass keine Daten nach außen übertragen werden. Wenn Sie die Modelldateien vorab bereitstellen, können die KI-Funktionen auch in einem abgeschotteten Netzwerk ohne Internetverbindung genutzt werden.

Q: Können lokale und externe KI gleichzeitig verwendet werden?

Ja. Sie können je nach Verwendungszweck lokale und externe KI parallel einrichten und situationsabhängig auswählen. So können Sie beispielsweise für sicherheitsrelevante Dokumente lokale KI und für Antworten mit hoher Qualität externe KI verwenden.

Datensicherheit

Q: Werden meine Daten für das Training verwendet, wenn ich KI-Funktionen nutze?

Lokale KI läuft auf den Geräten Ihrer Organisation. Die Daten verlassen die Organisation nicht und werden nicht für das Modelltraining verwendet. Nur wenn Sie mit dem Fine-Tuning-Plugin selbst ein Training ausführen, werden die dafür ausgewählten Daten verwendet. Bei Verwendung externer KI richtet sich die Datenverarbeitung nach den Richtlinien des jeweiligen externen Dienstes.

Q: Welche Daten werden an die KI übermittelt?

Die KI erhält die Frage des Benutzers sowie die Dateiinhalte oder Suchergebnisse, die zur Bearbeitung der Anfrage nötig sind. Die Kontextsuche und Aufgabenanfragen an die KI nutzen verwandte Dokumente aus dem Wissensindex als Grundlage für die Antwort. Bei externer KI werden diese Inhalte an den externen KI-Anbieter übertragen. Eine per MCP angebundene externe KI greift im vom Administrator zugelassenen Umfang und gemäß den Berechtigungen des Benutzers auf Dokumente, Suchbegriffe, Pfade und Aktivitätsverläufe zu.

Hardwareanforderungen

Q: Ist für lokale KI zwingend eine GPU erforderlich?

Lokale KI kann auch ohne GPU nur mit der CPU verwendet werden. Mit einer GPU ist die Antwortgeschwindigkeit jedoch deutlich höher.

Umgebung	Antwortgeschwindigkeit	Empfehlung
Nur CPU	Langsam (mehrere Dutzend Sekunden oder mehr)	Geeignet für leichte Aufgaben
Mit GPU (ab 8 GB VRAM)	Schnell (innerhalb weniger Sekunden)	Empfohlen für den normalen Arbeitsalltag
Leistungsstarke GPU (ab 16 GB VRAM)	Sehr schnell	Empfohlen für die Verarbeitung großer Dokumente

Q: Welche Mindestanforderungen gelten für den Server bei lokaler KI?

Das hängt von der Modellgröße ab, im Allgemeinen wird jedoch mindestens die folgende Ausstattung empfohlen.

RAM: mindestens 16 GB
Speicherplatz: mindestens 10 GB freier Speicher für KI-Modelldateien
GPU (optional): NVIDIA-GPU mit mindestens 8 GB VRAM

Unterstützte Modelle und Funktionen

Q: Welche KI-Modelle können verwendet werden?

Lokale KI verwendet Modelle, die in lokalen KI-Laufzeitumgebungen wie Ollama, LM Studio oder Docker Model Runner ausgeführt werden können. Externe KI kann über die APIs von Anbietern wie OpenAI, Anthropic oder Gemini angebunden werden.

Q: Welche Aufgaben kann die KI übernehmen?

Mit den KI-Funktionen von SetFN sind die folgenden Aufgaben möglich.

KI-Aufgabenanfrage: Im Chat Suchen, Termineinträge, Arbeitszusammenfassungen und E-Mail-Entwürfe anfordern
Kontextsuche: Dateien mit ähnlicher Bedeutung finden, auch ohne exakten Suchbegriff
Bildsuche: Text in Bildern oder ähnliche Bilder finden
KI-Autovervollständigung im Editor: Vorschläge für den weiteren Text beim Schreiben von Textdokumenten
E-Mail-KI-Assistent: E-Mails zusammenfassen sowie Aufgaben und Phishing-Hinweise auflisten
Automatische Analyse: Beim Erstellen oder Ändern von Dateien erzeugt die lokale KI Metadaten wie Zusammenfassungen und Tags

Die einzelnen Funktionen finden Sie unter KI-Funktionen im Überblick.

Q: Welche Dateiformate unterstützen die KI-Funktionen?

Die KI kann die Inhalte textbasierter Dateien (TXT, MD, CSV, JSON usw.) und von Dokumentdateien (PDF, DOCX usw.) lesen und analysieren. Bilder können mit einem Vision-Modell (VL) oder per OCR ausgelesen und analysiert werden. Andere Binärdateien wie Videos sind nicht Teil der KI-Analyse.