Zum Inhalt springen

Wissensspeicher betreiben

Die Vektordatenbank ist der Ort, an dem Dokumente in einer für die KI durchsuchbaren Form (Vektoren) gespeichert werden. Die von der Wissensindexierung erzeugten Suchdaten werden hier abgelegt, und die KI-Dokumentsuche sowie RAG-Antworten verwenden diese Daten.

Die in der Vektordatenbank gespeicherten Daten sind abgeleitete Daten, die sich jederzeit aus den Originaldokumenten neu erzeugen lassen. Auch wenn Sie die Vektordatenbank wechseln oder zurücksetzen, bleiben die Originaldateien im Arbeitsbereich unverändert.


Bevor Sie beginnen

  • Erforderliche Berechtigung: Workspace-Administrator
  • Prüfen Sie unter Wissensdienste > Wissensspeicher den aktuellen Treiber und den Verbindungsstatus.
  • Ein Speicherwechsel oder ein Zurücksetzen kann die Suchergebnisse beeinträchtigen, bis sie neu aufgebaut sind. Planen Sie daher einen Zeitpunkt für die Arbeiten ein.

Vektorspeicher auswählen

Die Auswahl erfolgt unter Treiber im Wissensspeicher.

TreiberSpeicherortVorbereitung der CollectionEmpfohlene Umgebung
Automatic (SQLite)Datei innerhalb des SpaceBuilder-ServersNicht erforderlichStandardwert. Sobald Sie ein Einbettungsmodell auswählen, wird der integrierte SQLite-Speicher verwendet.
Local (SQLite)Datei local_vectors.db im angegebenen PfadNicht erforderlichKleine Umgebungen mit bis zu etwa 50.000 Vektoren. Verwenden Sie diesen Treiber, wenn Sie den Speicherpfad selbst festlegen möchten.
QdrantExterner Qdrant-ServerWird automatisch erstelltBei vielen Vektoren oder wenn die Suchdaten auf einen separaten Server ausgelagert werden sollen
MilvusExterner Milvus-ServerMuss vorab erstellt werdenWenn Sie Milvus bereits betreiben oder einen großen Cluster benötigen

Die Anzahl der Vektoren entspricht nicht der Anzahl der Dokumente, sondern der Anzahl der Dokumentabschnitte (Chunks). Dokumente werden je nach Format zunächst in Abschnitte, Seiten oder Zeilen unterteilt und anschließend in Stücke von etwa 700 bis 1.000 Zeichen (bezogen auf Koreanisch) aufgeteilt und gespeichert. Ein einzelnes langes Dokument kann so zu Dutzenden von Vektoren werden.

Die Installation und Verbindung externer Vektordatenbanken ist in den jeweiligen Dokumenten beschrieben.

  • Qdrant verbinden — Lässt sich mit einem einzigen Docker-Container installieren und ist daher leichtgewichtig. Wenn Sie zum ersten Mal einen separaten Server einrichten, empfehlen wir Qdrant.
  • Milvus verbinden — Empfohlen wird ein separater Server mit mindestens 8 GB Arbeitsspeicher. Die Collection müssen Sie selbst erstellen.

Local (SQLite) betreiben

Der Treiber Local betreibt die Vektorsuche ohne externen Dienst mit einer einzigen SQLite-Datei (local_vectors.db).

ElementInhalt
Speicherdateilocal_vectors.db unterhalb von Datenpfad
DatenpfadDer Standardwert ist vectordb_local. Relative Pfade beziehen sich auf den Ordner, in dem sich die SpaceBuilder-Konfigurationsdatei befindet.
SuchmethodeAlle gespeicherten Vektoren werden verglichen. Bei 1024 Dimensionen dauert die Suche über 10.000 Vektoren etwa 10 ms; mit wachsender Datenmenge steigt auch die Suchzeit.
Empfohlene GrößeBis zu etwa 50.000 Vektoren. Darüber hinaus wird ein Wechsel zu Qdrant oder Milvus empfohlen.

In der Vektordatenbank-Übersicht wird zusätzlich Speichernutzung von local_vectors.db angezeigt.

ElementBedeutung
DB-Datei / WAL / SHMGröße der SQLite-Hauptdatei und der Schreibprotokolldateien
Wiederverwendbarer Speicherplatz in der DBSpeicherplatz, der durch das Löschen von Daten frei geworden ist, aber noch nicht aus der Dateigröße entfernt wurde. Beim Speichern neuer Daten wird dieser Platz zuerst wiederverwendet.

Wenn Sie den Speicher oder das Einbettungsmodell wechseln

Sobald Sie eines der folgenden Elemente ändern und speichern, erkennt SpaceBuilder die Änderung und startet automatisch eine vollständige Neuindexierung aller Originale.

  • Treiber, Endpunkt, Collection, Datenpfad
  • Einbettungsmodell, Vektordimension

Der Wechsel läuft in dieser Reihenfolge ab.

  1. Die neuen Einstellungen werden gespeichert.
  2. Der Indexierungsplaner erkennt die Änderung und fordert eine vollständige Neuindexierung aller Originale an.
  3. Alle Dokumente werden mit den neuen Einstellungen neu eingebettet und im neuen Speicher abgelegt.
  4. Sobald alle Dokumente im neuen Speicher liegen und die Suchprüfung abgeschlossen ist, werden die bisherigen Vektoren an ihrem ursprünglichen Speicherort gelöscht.

Suche während des Wechsels

  • Bis die Änderung erkannt wird, wird die Vektorsuche vorübergehend angehalten und nur die Schlüsselwortsuche verwendet.
  • Während der Neuindexierung wird der neue Speicher durchsucht. Dokumente, die noch nicht in den neuen Speicher übertragen wurden, erscheinen möglicherweise nicht in den Ergebnissen der Vektorsuche.
  • Nach Abschluss der Neuindexierung werden nur noch die mit den neuen Einstellungen erzeugten Vektoren durchsucht.

Bei vielen Dokumenten kann die Neuindexierung lange dauern. Führen Sie den Wechsel daher zu einer Zeit mit wenigen Benutzern durch.

Hinweise zum Wechsel

  • Lassen Sie den bisherigen externen Speicher eingeschaltet, bis die Bereinigung abgeschlossen ist. Wenn Sie von Qdrant oder Milvus zu einem anderen Speicher gewechselt haben, muss der bisherige Server erreichbar bleiben, bis die bisherigen Vektoren gelöscht sind. Ist er nicht erreichbar, wird die Bereinigung mit Bisheriges Speicherziel nicht erreichbar immer wieder neu versucht.
  • Wenn Sie die Vektordimension ändern, geben Sie auch eine neue Collection an. Bei bereits erstellten Qdrant- und Milvus-Collections kann die Dimension nicht geändert werden. In einer Collection mit abweichender Dimension kann nicht gespeichert werden.
  • Auch bei der Rückkehr zu den vorherigen Einstellungen wird neu indexiert. Wenn Sie von A zu B und wieder zu A zurückwechseln, werden die ursprünglichen Daten von A nicht wiederverwendet, sondern neu indexiert.

Betriebsstatus prüfen

Vektordatenbank-Übersicht

Sie finden sie oben auf der Seite Wissensspeicher.

ElementBedeutung
VerbindungsstatusOb der Vektorspeicher erreichbar ist
VektorspeicherVerwendeter Treiber und Typ (integriert oder dienstbasiert)
Gespeicherte VektorenAnzahl der Vektoren, die diese Instanz (der aktuelle SpaceBuilder) gespeichert hat. Daten anderer Instanzen, die denselben Speicher verwenden, sind nicht enthalten.
Anzahl der CollectionsBei Local 1 (vor der ersten Indexierung 0), bei Qdrant und Milvus die Gesamtzahl der Collections auf dem jeweiligen Server
Collection-KonfigurationOb Dimension und Distanzmetrik des Speichers mit den Einstellungen übereinstimmen

Unter Collection-Konfiguration wird eine der folgenden Anzeigen angezeigt.

AnzeigeBedeutung
OK (mit den aktuellen Einstellungen kompatibel)Die Collection kann verwendet werden.
Noch nicht erstellt · Wird bei der ersten Indexierung automatisch erstelltDie Qdrant-Collection existiert noch nicht. Das ist kein Fehler; sie wird bei der ersten Indexierung erstellt.
Collection nicht gefunden · Erstellen Sie sie zuerst in MilvusMilvus-Collections werden nicht automatisch erstellt. Erstellen Sie sie gemäß Milvus verbinden.
Die Collection-Konfiguration muss geprüft werdenDimension oder Distanzmetrik stimmen nicht überein. Prüfen Sie die zusätzlich angezeigte Fehlermeldung.

Seite Wissensindexierung

Den Fortschritt prüfen Sie in der Indexierungsübersicht der Wissensindexierung.

ElementBedeutung
Ausstehende AktualisierungAnzahl der neu erstellten oder geänderten Dateien, die auf die Indexierung warten
Ausstehende EinbettungAnzahl der Dateien, deren Textextraktion abgeschlossen ist und die auf die Umwandlung in Vektoren warten
Anzahl EinbettungenVon SpaceBuilder erfasste aktuelle Anzahl der Einbettungen. Während eines Wechsels oder einer Neuindexierung kann sie von Gespeicherte Vektoren der Vektordatenbank abweichen.
Ausstehende VektorlöschungAnzahl der Vektoren, die nach dem Löschen einer Datei oder einem Speicherwechsel darauf warten, am ursprünglichen Speicherort gelöscht zu werden

Schlägt das Löschen bisheriger Vektoren fehl, werden in der Liste der Bereinigungswiederholungen das Speicherziel und der Grund angezeigt. Das Wiederholungsintervall wächst schrittweise bis auf maximal 5 Minuten.

GrundBedeutung und Maßnahme
Aufgezeichnetes Ziel nicht verfügbarDer bisherige Vektordatenbankserver ist ausgeschaltet oder nicht erreichbar. Sobald Sie den bisherigen Server wieder einschalten, wird die Bereinigung automatisch fortgesetzt.
Remote-Löschung fehlgeschlagenDie Vektordatenbank hat die Löschanfrage abgelehnt. Prüfen Sie den Status und die Protokolle des Vektordatenbankservers.
Ergebnis früherer Speicheranfragen wird geprüftEs sind noch Speicheranfragen mit unbestätigtem Ergebnis vorhanden; der Abschluss der Löschung wird abgewartet. In den meisten Fällen löst sich dies automatisch.
Löschabschluss konnte nicht protokolliert werdenDie Löschung wurde ausgeführt, aber SpaceBuilder konnte den Abschluss nicht protokollieren. Im nächsten Zyklus wird es erneut versucht.

Vektoren synchronisieren und neu aufbauen

Diese Vorgänge führen Sie im Bereich Nur Administratoren des Wissensspeicher aus. Beide Vorgänge löschen keine Originaldateien und erfordern eine Lizenz ab Team.

VorgangFunktionZeitpunkt
Vorhandene Einbettungen synchronisierenKopiert vorhandene Einbettungen, die mit den aktuellen Dokumentabschnitten kompatibel sind, in die ausgewählte Vektordatenbank und erzeugt nur die Vektoren neu, die nicht wiederhergestellt werden können.Wenn Sie die Vektordatenbank gewechselt haben oder Vektoren im Speicher fehlen
Vektorgeneration neu aufbauenErstellt eine neue Vektorgeneration, während die bisherigen Vektoren erhalten bleiben, und bereinigt die bisherigen Vektoren nach Abschluss der Prüfung.Wenn die gespeicherten Vektoren von Grund auf neu aufgebaut werden müssen
  • Beide Vorgänge nehmen lediglich die Anfrage entgegen; den Fortschritt prüfen Sie unter Erfassung & Indexierung.
  • Daten anderer Instanzen, die dieselbe Qdrant- oder Milvus-Collection verwenden, sind davon nicht betroffen.

Wenn mehrere Instanzen eine Vektordatenbank gemeinsam nutzen

Eine Instanz ist ein separat installierter und betriebener SpaceBuilder. Jede Instanz hat einen eigenen Instanz-Isolationsschlüssel, der zusammen mit jedem gespeicherten Vektor abgelegt wird. Daher bleiben Suche, Statistiken und Vektorbereinigung auch bei gemeinsamer Nutzung derselben Collection auf die Daten der jeweiligen Instanz beschränkt.

Wenn Sie Sicherung, Kapazitätsverwaltung und Löschung jedoch pro Instanz durchführen möchten, empfehlen wir, für jede Instanz eine eigene Collection zu verwenden. Wenn Sie den Standardnamen der Collection (knowledge_vectors) verwenden, wird auf der Einstellungsseite eine Warnung zusammen mit dem empfohlenen Namen für diese Instanz (setfn_knowledge_...) angezeigt.

Sichern und Wiederherstellen

Die Sicherung der Wissensdaten führen Sie per Befehl aus, nachdem Sie den SpaceBuilder-Server angehalten haben. Läuft der Server, werden Sicherung und Wiederherstellung abgelehnt. Wiederhergestellt werden können nur Sicherungen, die mit derselben Instanz und demselben Home-Ordner erstellt wurden.

# Sichern (der Zielordner muss ein neuer, noch nicht vorhandener Pfad sein)
~/setfn-spacebuilder admin knowledge-backup <Sicherungsordner>

# Wiederherstellen
~/setfn-spacebuilder admin knowledge-restore <Sicherungsordner>
ZielIn der Sicherung enthalten
Wissensindexierungsdaten (Teambereich und Persönlicher Bereich)Enthalten
local_vectors.db von LocalNur enthalten, wenn sie sich im SpaceBuilder-Home- oder Konfigurationsordner befindet
Vektoren in Qdrant und MilvusNicht enthalten (abgeleitete Daten, die aus den Originalen neu erzeugt werden)

Starten Sie nach der Wiederherstellung den Server und führen Sie im Wissensspeicher Vorhandene Einbettungen synchronisieren aus, um die Vektordatenbank neu zu füllen. Vektoren, die nach der Sicherung in der externen Vektordatenbank gespeichert wurden, werden bei der Wiederherstellung zur Bereinigung vorgemerkt und nach dem Serverstart automatisch am ursprünglichen Speicherort gelöscht.

Problembehandlung

SymptomZu prüfen
Verbindungsstatus ist Nicht verbundenPrüfen Sie Adresse und Port des Endpunkts, die Firewall und ob der Vektordatenbankserver läuft.
Die Collection-Konfiguration muss geprüft werden mit collection dimension is ..., expected ...Die Dimension der Collection weicht von der eingestellten Vektordimension ab. Geben Sie einen neuen Collection-Namen an.
Die Collection-Konfiguration muss geprüft werden mit einem Fehler zu unnamed dense vectorDie Qdrant-Collection wurde als Hybrid oder mit Named Vectors erstellt. Siehe Qdrant verbinden.
Die Anzahl der gespeicherten Vektoren steigt nichtPrüfen Sie, ob die Wissensindexierung aktiviert ist, ob Sie sich nicht außerhalb des zulässigen Zeitfensters befinden und ob alle Punkte unter Einstellungen vor dem Start prüfen abgeschlossen sind.
Warnung bei der KI-Vektordatenbank unter Einstellungen vor dem Start prüfenVerbindungsfehler der Vektordatenbank, abweichende Collection-Konfiguration oder fehlende Milvus-Collection. Bei Verbindungsfehlern und abweichender Konfiguration sehen Sie die genaue Fehlermeldung, wenn Sie mit der Maus über die Karte fahren. Bei einer fehlenden Milvus-Collection wird keine separate Fehlermeldung angezeigt; erstellen Sie die Collection gemäß Milvus verbinden. Ein Klick auf die Karte führt zu den Vektordatenbank-Einstellungen.
Nicht verbunden, weil die Vektordatenbank Authentifizierung verlangtGeben Sie im Wissensspeicher den API-Schlüssel (Qdrant, Milvus) oder Benutzername und Passwort (Milvus) ein und speichern Sie.
Bereinigungswiederholungen häufen sichPrüfen Sie, ob der bisherige Speicher erreichbar ist. Die Maßnahmen je Grund finden Sie unter Betriebsstatus prüfen.

Verwandte Dokumente