Zum Inhalt springen

Erfassung & Indexierung

Prüfen Sie, ob die von Benutzern hochgeladenen Dokumente für die KI-Suche bereit sind. Die hier erzeugten Suchdaten werden für RAG verwendet, bei dem die KI passende Dokumente findet und daraus antwortet.

Bevor Sie beginnen

  • Erforderliche Berechtigung: Administrator des Arbeitsbereichs
  • Die KI-Laufzeitumgebung und das Modell zum Ausführen der Einbettung müssen bereitstehen.
  • Um die Vektorsuche zu verwenden, müssen Verbindung und Einbettungsmodell unter Wissensspeicher eingerichtet sein.

Erfassung & Indexierung öffnen

  1. Öffnen Sie die Administrationsseite.
  2. Wählen Sie im linken Menü Wissensdienste.
  3. Wählen Sie Erfassung & Indexierung.

Seite Erfassung & Indexierung


Indexierungsübersicht

Sehen Sie den aktuellen Indexierungsstatus auf einen Blick.

FeldBeschreibung
Ausstehende AktualisierungNeu erstellte oder geänderte Dateien, die darauf warten, in die KI-Suche übernommen zu werden
Ausstehende LöschungSuchdaten gelöschter Dateien, die auf ihre Bereinigung warten
Ausstehende VektorlöschungAnzahl der alten Vektoren, die nach dem Löschen einer Datei oder dem Wechsel des Speichers darauf warten, am ursprünglichen Speicherort entfernt zu werden
Ausstehende EinbettungDokumente, deren Text gelesen wurde und die darauf warten, zu KI-Suchdaten verarbeitet zu werden
Vektoren in der DatenbankAnzahl der Vektoren, die für den aktuellen Bereich tatsächlich in der gewählten Vektordatenbank gespeichert sind. Lokale Einbettungen unter der Karte ist die Anzahl der je Modell in der lokalen knowledge.db gespeicherten Einbettungszeilen für die aktuellen Dokumentversionen; beide Werte können sich unterscheiden.
SQLite-NutzungGröße der Protokolldatenbank der Wissensindexierung. Die Größe der Vektordatenbank ist nicht enthalten.
IndexierungsmodusUmfang der Dateien, für die KI-Suchdaten erzeugt werden (z. B. Vollständige Indexierung)
EinbettungsanbieterDas verwendete KI-Einbettungsmodell (z. B. Ollama bge-m3:latest / 1024d)
Aktive einbezogene StammpfadeDie indexierten Pfade
Team-CheckpointZeitpunkt der letzten Prüfung der Teamordner
Client-CheckpointZeitpunkt der letzten Prüfung der persönlichen Ordner
Zuletzt aktualisiertZeitpunkt der letzten Statusaktualisierung

Sie können Automatisch aktualisieren eingeschaltet lassen oder den Status mit der Schaltfläche Aktualisieren manuell aktualisieren.

Während der Status der Vektordatenbank geprüft wird oder wenn die Prüfung fehlschlägt, zeigt Vektoren in der Datenbank den Wert -. Liefert der Server für denselben Bereich kurzzeitig einen Snapshot von einem früheren Zeitpunkt, behält die Seite den zuletzt bestätigten, neueren Wert bei und zeigt eine Warnung zum veralteten Snapshot an. Wechseln Sie zwischen Teambereich und persönlichem Bereich, werden die Werte des vorherigen Bereichs sofort gelöscht; bis die Abfrage für den neuen Bereich abgeschlossen ist, werden unbekannte Werte als - angezeigt.

Bevor Sie anfangen

Prüfen Sie vor dem Start der Indexierung die folgenden erforderlichen Einstellungen. Über die jeweilige Schaltfläche gelangen Sie zur entsprechenden Einstellung.

Erforderliche EinstellungZu prüfenWechseln zu
KI-LaufzeitumgebungWählen Sie die für die Indexierung verwendete KI-Laufzeitumgebung wie Ollama oder LM Studio und prüfen Sie den Verbindungsstatus.KI-Laufzeitumgebung einrichten
Vision-Modell (VL)Wählen Sie unter den KI-Modellen das Vision-Modell, das den Inhalt von PDFs und Bildern liest.Vision-Modell einrichten
KI-VektordatenbankWählen Sie den Vektorspeicher aus Local (SQLite), Milvus, Qdrant und anderen und legen Sie die Verbindungsinformationen fest.KI-Vektordatenbank einrichten
EinbettungsmodellWählen Sie das Modell, das Dokumente in Vektoren für die Suche umwandelt. (z. B. bge-m3)Einbettungsmodell einrichten

Hier wählen Sie nur die zu verwendenden Modelle aus. Vision-Modell und Einbettungsmodell müssen zuerst unter KI-Modelleinstellungen heruntergeladen werden, bevor sie für die Indexierung verwendet werden können.

Das Feld KI-Vektordatenbank prüft nicht nur, ob die Einstellung vorhanden ist, sondern auch den tatsächlichen Verbindungsstatus. Ist die Vektordatenbank nicht erreichbar, wird Verbindungsfehler · Einstellungen überprüfen in der Warnfarbe angezeigt; stimmen Dimension oder Distanzmetrik der Collection nicht überein, erscheint Konfiguration der Collection stimmt nicht überein · Prüfung erforderlich; wurde die Collection in Milvus noch nicht erstellt, erscheint Collection nicht gefunden · Erstellen Sie sie zuerst. Bei Verbindungsfehlern und nicht übereinstimmender Collection-Konfiguration sehen Sie den detaillierten Fehler, wenn Sie den Mauszeiger über die Karte bewegen. Für eine fehlende Milvus-Collection wird keine gesonderte Fehlermeldung angezeigt; klicken Sie daher auf die Karte, um zu den Einstellungen der Vektordatenbank zu wechseln, und erstellen Sie die Collection gemäß Milvus verbinden. Eine noch nicht vorhandene Qdrant-Collection ist kein Fehler; in diesem Fall wird Bereit · Die Collection wird bei der ersten Indexierung erstellt angezeigt. Ausführliche Maßnahmen finden Sie im Betriebsleitfaden für die Vektordatenbank.

Erfassungs- und Verarbeitungsregeln

Legen Sie fest, wann Suchdaten erzeugt werden und die Dokumente welcher Ordner für die KI-Suche verwendet werden.

Wissensindexierung aktivieren

Schaltet die gesamte Funktion der Wissensindexierung ein oder aus.

Indexierungsmodus festlegen

FeldBeschreibungStandardwert
IndexierungsmodusAuswahl von Umfang und Methode der IndexierungVollständige Indexierung
Wartezeit (Minuten)Wartezeit zwischen dem Erkennen einer Dateiänderung und dem Start der Indexierung20
Maximale gleichzeitige AufgabenAnzahl der Indexierungsaufgaben, die gleichzeitig verarbeitet werden können1
Worker-Ausführung erlaubenIst die Option ausgeschaltet, werden geänderte Dateien weiterhin erkannt, aber keine KI-Suchdaten erzeugt.Aktiv
Automatische Pause bei hoher LastHält die Indexierung bei hoher Serverauslastung vorübergehend an und setzt sie fort, sobald der Server wieder stabil ist.Aktiv
Boost-ModusStartet die Indexierung 5 Sekunden nach einer Dateiänderung und zieht wartende Aufträge sofort vor. Der Durchsatz wird dadurch nicht erhöht; sobald der Rückstand abgearbeitet ist, schaltet sich der Modus automatisch aus.Deaktiviert
Erlaubte ZeitfensterLegt die Zeitfenster fest, in denen die Indexierung erlaubt ist. Bleibt das Feld leer, wird jederzeit indexiert. (z. B. 01:00-06:00)Keine Beschränkung

Einbezogene Stammpfade

Geben Sie die zu indexierenden Ordnerpfade an. Bleibt das Feld leer, werden alle Pfade einbezogen.

Beispiel:

/@team/docs
/@client/projects

KI-Einbettungsmodell festlegen

Wählen Sie das KI-Modell, das Dokumente in Suchdaten umwandelt.

AnbieterBeschreibung
OllamaVerwendet ein lokal installiertes Ollama-Modell. (z. B. bge-m3:latest)
ONNX Local CPUVerwendet ein ONNX-Modell, das lokal auf der CPU ausgeführt wird.
ONNX Local GPUVerwendet ein lokales ONNX-Modell mit GPU-Beschleunigung.
Remote APIVerwendet ein Einbettungsmodell über eine externe API.

Anbieter ohne installiertes Modell werden als Keine Modelle verfügbar angezeigt.

FeldBeschreibung
VektordimensionDie Größe der Suchdaten, die das KI-Modell verwendet. Sie wird automatisch passend zum gewählten Modell festgelegt. (z. B. 1024)
PDF/Bild-ExtraktionsstrategieLegt fest, wie Text aus PDFs und Bildern gelesen wird. VL zuerst, bei Fehler OCR bedeutet, dass zuerst die bildverstehende KI verwendet wird und bei einem Fehler die Zeichenerkennung.

PDF/Bild-Einschlussmuster

Geben Sie die Dateiendungen oder Pfadregeln der PDF- und Bilddateien ein, aus denen Text gelesen werden soll.

Beispiel:

*.pdf, *.png, image/**/*

PDF/Bild-Ausschlussmuster

Geben Sie die Dateiendungen oder Pfadregeln der PDF- und Bilddateien ein, die nicht verarbeitet werden sollen. Bleibt das Feld leer, werden alle oben einbezogenen Dateien verarbeitet.

Beispiel:

thumbs.db, *.gif, cache/**

Fortschritt je Speicherbereich

Prüfen Sie je Team- oder persönlichem Speicherbereich, wie viele Inhalte darauf warten, an die KI übergeben zu werden.

Sie können nach Bereich (team/client) und Benutzer suchen und nach der Anzahl ausstehender Aktualisierungen sortieren.

FeldBeschreibung
BereichUnterscheidung zwischen Teambereich (team) und persönlichem Bereich (client)
BenutzerBei einem persönlichen Bereich der zugehörige Benutzer
Ausstehende AktualisierungNeu erstellte oder geänderte Dateien, die darauf warten, in die KI-Suche übernommen zu werden
Ausstehende LöschungSuchdaten gelöschter Dateien, die auf ihre Bereinigung warten
Ausstehende EinbettungDokumente, deren Text gelesen wurde und die darauf warten, zu KI-Suchdaten verarbeitet zu werden
Anzahl EinbettungenGesamtzahl der abgeschlossenen Einbettungen

Übersicht der KI-Lerndaten

Prüfen Sie, wie viele KI-Suchdaten je Modell erzeugt wurden. Es handelt sich nicht um eine Funktion, die ein KI-Modell mit den Originaldokumenten neu trainiert.

FeldBeschreibung
AnbieterDer für die Einbettung verwendete Modellanbieter (z. B. ollama)
ModellName des verwendeten Einbettungsmodells (z. B. bge-m3:latest)
AnzahlGesamtzahl der mit diesem Modell erzeugten Einbettungen

Sie können nach Anzahl sortieren, um den Umfang der Suchdaten je Modell zu vergleichen.