Wie semantische Suche funktioniert: einfach erklärt
Wie semantische Suche 2026 funktioniert: Embeddings, Vektoren und hybride Suche einfach erklärt. Warum Stichwortsuche deine Lesezeichen verfehlt und was hilft.
Tipp „wie viel kostet es, Kunden zu gewinnen“ in die Suche deiner gespeicherten Lesezeichen und sieh zu, wie nichts gefunden wird. Das Video, das du suchst, liegt in deiner Bibliothek, du hast es ja gespeichert. Der Sprecher hat sechzehnmal „CAC“ gesagt. Deine Suche lautete „customer acquisition cost“. Die Wörter überschneiden sich nicht. Kein Treffer.
Dieses Problem hat einen Namen: Vocabulary Mismatch, also unterschiedliche Wortwahl für dieselbe Sache. Genau deshalb verliert die Stichwortsuche immer wieder, und genau deshalb ist semantische Suche heute der Standard in jedem ernsthaften Tool, das irgendeine Form von Text durchsucht. Im Folgenden: wie semantische Suche 2026 tatsächlich funktioniert, in einfachem Deutsch und ohne Mathestudium, und warum die meisten Verbraucher-Apps, die mit „KI-Suche“ werben, es immer noch falsch machen.
Das Vocabulary-Mismatch-Problem in 60 Sekunden
Alte Suchsysteme glichen Zeichenketten wörtlich ab. Du tippst customer acquisition cost, und das System findet Dokumente mit genau diesen Wörtern. Dokumente, in denen „CAC“ stand oder „die Kosten, neue Käufer zu gewinnen“ oder „was wir pro Anmeldung zahlen“, blieben unsichtbar.
Die Information-Retrieval-Forschung misst das seit vierzig Jahren. Der typische Vocabulary Mismatch liegt bei etwa 70–80 %: Meistens benutzen Menschen für dasselbe Konzept unterschiedliche Wörter. Wenn deine Suche nur wörtliche Übereinstimmungen findet, verpasst du vier von fünf relevanten Dokumenten. Höflich ausgedrückt heißt das: „Die Stichwortsuche ist seit 1985 kaputt.“
Zwei Dinge haben das behoben. Das erste sind Embeddings: eine Methode, Bedeutung als Zahlen darzustellen, sodass zwei Formulierungen mit derselben Bedeutung „nah“ beieinander landen, auch wenn sie kein einziges Wort gemeinsam haben. Das zweite sind Vektordatenbanken: Speicher und Indizes, die die nächstgelegenen Vektoren schnell finden, selbst wenn der Korpus Millionen Dokumente umfasst.
Erst beides zusammen macht „semantische Suche“ überhaupt möglich.
Was ein Embedding ist, einfach erklärt
Nimm einen Satz. Schick ihn durch ein neuronales Netz. Das Netz gibt eine Liste von Zahlen zurück, typischerweise 384, 768 oder 1.536 Stück. Diese Liste ist das Embedding des Satzes.
Der Trick: Das Netz ist so trainiert, dass Sätze mit ähnlicher Bedeutung ähnliche Listen erzeugen. Ein Beispiel:
"Was sind Akquisekosten"→ Embedding A"Wie viel zahlen wir um einen neuen Kunden zu gewinnen"→ Embedding B"Wie geht es den Möwen heute"→ Embedding C
A und B liegen im 1.536-dimensionalen Raum nah beieinander. C liegt weit weg. Gemessen wird die Nähe per Kosinus-Ähnlichkeit (Cosine Similarity), also daran, wie stark die beiden Vektoren in diesem hochdimensionalen Raum in dieselbe Richtung zeigen. Werte nahe 1,0 bedeuten fast identische Bedeutung, Werte nahe 0 bedeuten, dass die Sätze nichts miteinander zu tun haben.
Stell dir vor, du trägst jede Formulierung als Punkt in eine 1.536-dimensionale Galaxie ein, in der die Richtung die Bedeutung abbildet. Die konkreten Koordinaten sagen für sich genommen nichts aus. Entscheidend ist, welche anderen Formulierungen in der Nähe landen.
Das Modell dahinter
2026 sind mehrere Modelle konkurrenzfähig. OpenAIs text-embedding-3-small liefert standardmäßig 1.536 Dimensionen und unterstützt Matryoshka-Repräsentation: Du kannst die Vektoren auf 768 oder 256 Dimensionen kürzen, um Speicher zu sparen, ohne neu zu trainieren. Coheres embed-v3 ist bei mehrsprachigen Inhalten konkurrenzfähig. Open-Source-Alternativen wie bge-large und nomic-embed-text liegen ein paar Genauigkeitspunkte dahinter und laufen auf einem Mac.
Für mehrsprachige Anwendungen bietet text-embedding-3-small derzeit das beste Verhältnis aus Genauigkeit, Kosten und Dimensionen. Bei SavedThat stammen die gespeicherten Videos aus 24 Sprachen (Stand 30. September 2026), und Anfragen können in jeder davon kommen. Wir nutzen die Matryoshka-Kürzung auf 768 Dimensionen: halber Speicher, etwa 99 % der Suchqualität. (Mehr zur Matryoshka-Repräsentation.)
Warum „einfach KI nehmen“ nicht dasselbe ist wie semantische Suche
2026 werben viele Verbraucher-Apps mit „KI-Suche“. Die meisten meinen damit eines von drei Dingen:
- Echte semantische Suche: Embeddings plus Vektorsuche, wie oben beschrieben.
- Ein LLM über einer Stichwortsuche: Das System führt eine Stichwortsuche aus, holt die Ergebnisse und lässt ein LLM sie umformulieren oder zusammenfassen. Die Suche selbst bleibt so schwach wie jede Stichwortsuche, das LLM übertüncht nur die Fehler.
- Reines Frage-Antwort-LLM: Du stellst eine Frage, das LLM antwortet aus seinem allgemeinen Training, und deine gespeicherten Inhalte werden überhaupt nicht herangezogen.
Nur die erste Variante löst das Problem unterschiedlicher Wortwahl auf deinen eigenen Daten. Die anderen beiden sind zwar hübsch verpackt, helfen dir aber nicht, das zu finden, was du gespeichert hast.
Ein schneller Test: Wenn du nach dem Konzept suchst und das Dokument nicht findest, es aber über eines seiner konkreten Wörter findest, steckt hinter der „KI-Suche“ Variante 2 oder 3. Findest du das Dokument über eine Umschreibung, ist es Variante 1.
Vektordatenbanken: Embeddings schnell speichern und finden
Embeddings allein helfen wenig, wenn du jede Anfrage einzeln mit Millionen Vektoren vergleichen musst. Ein naiver Komplettdurchlauf durch einen Index mit 50.000 Dokumenten dauert Hunderte Millisekunden, viel zu langsam für die interaktive Nutzung.
Die Lösung heißt Approximate Nearest Neighbour (ANN) Indexing, also näherungsweise Nächste-Nachbarn-Suche. Spezielle Datenstrukturen wie HNSW (Hierarchical Navigable Small World), IVF oder ScaNN speichern Vektoren so, dass die nächsten Treffer in unter 10 Millisekunden gefunden werden, selbst bei Bibliotheken mit zehn Millionen Vektoren.
Der aktuelle Stand der Technik (Mai 2026) für semantische Suche im Produktivbetrieb:
- HNSW-Indexierung ist am weitesten verbreitet. Postgres bietet sie über die Erweiterung
pgvector; eigenständige Vektordatenbanken wie Qdrant, Pinecone und Weaviate nutzen alle HNSW oder nahe Varianten davon. SavedThat setzt HNSW aufpgvectorein, weil es im Betrieb einfacher ist, die Vektoren neben den relationalen Metadaten zu halten, als zwei Datenbanken zu pflegen. - Speicherung mit halber Genauigkeit. Mit 16-Bit-Gleitkommazahlen pro Dimension statt 32 Bit belegen Vektoren nur halb so viel Speicherplatz. Der Qualitätsverlust bei der Suche ist vernachlässigbar. Der Typ
halfvec(768)inpgvectorist inzwischen Standard für jede kostenbewusste Installation. - MRL-Kürzung (Matryoshka). Einmal trainierte Embeddings mit 1.536 Dimensionen werden beim Speichern je nach Anwendungsfall auf 768 oder 256 Dimensionen gekürzt. Du durchsuchst zuerst einen schnellen Index mit 256 Dimensionen und sortierst die besten 100 Treffer dann anhand der Version mit 768 oder 1.536 Dimensionen neu.
In der Größenordnung von SavedThat, also rund 230.000 Transkriptabschnitten im gesamten Suchindex (Stand 30. September 2026), passt der Index komplett in den Arbeitsspeicher.
Der Haken: Semantische Suche allein versagt bei exakten Formulierungen
Jetzt die Pointe, die die meisten Tutorials weglassen: Bei exakten Formulierungen verliert die semantische Suche gegen die Stichwortsuche.
Wenn du nach "text-embedding-3-small" suchst, also nach einem exakten Produktnamen, setzt die Stichwortsuche das Dokument, das genau diese Zeichenkette enthält, auf Platz 1. Die semantische Suche kann dagegen ein Dokument über „OpenAI-Embeddings im Allgemeinen“ höher einstufen, weil es der Gesamtbedeutung der Anfrage semantisch näher ist, obwohl die wörtliche Zeichenkette fehlt.
Das ist kein theoretisches Problem. Öffentliche Benchmarks zeigen durchgehend: Rein semantische Suche schneidet bei sehr spezifischen Anfragen schlechter ab als die Stichwortsuche, etwa bei Produktnamen, Funktionssignaturen, exakten Zitaten, Datumsangaben und Markennamen. Das Problem, das Semantik lösen soll (unterschiedliche Wortwahl), gibt es bei solchen Anfragen gar nicht, denn die Person hat ja genau die Zeichenkette eingetippt, die sie sucht.
Die Lösung: beide Suchen laufen lassen und die Ergebnisse zusammenführen.
Hybride Suche mit Reciprocal Rank Fusion
Die hybride Suche hat sich seit 2024 still und leise zum Standard in ernsthaften Suchsystemen im Produktivbetrieb entwickelt:
- Führe eine semantische Suche aus (Vektorähnlichkeit). Hol die besten K Ergebnisse, sortiert nach Kosinus-Ähnlichkeit.
- Führe eine Volltextsuche aus (Stichwörter, tsvector, BM25 oder was auch immer). Hol die besten K Ergebnisse, sortiert nach Relevanzwert.
- Führe beide Listen zusammen, und zwar per Reciprocal Rank Fusion (RRF): Der RRF-Wert jedes Dokuments ist
1 / (rang + 60), aufsummiert über beide Methoden. Dokumente, die in beiden Listen weit oben stehen, bekommen einen deutlichen Schub; Dokumente, die nur in einer auftauchen, zählen trotzdem mit. - Sortiere nach dem kombinierten RRF-Wert.
Die Konstante 60 ist ein Erfahrungswert, der in unzähligen Benchmarks geprüft wurde und bei den meisten Korpora funktioniert. Du kannst sie anpassen, musst es aber meistens nicht.
Das Ergebnis: Umschriebene Anfragen finden weiterhin inhaltlich passende Treffer (über die semantische Seite), und Anfragen mit exaktem Wortlaut setzen den wörtlichen Treffer weiterhin auf Platz 1 (über die Stichwortseite). Den blinden Fleck der einen Methode deckt jeweils die andere ab.
Genau das ist bei SavedThat die Standardsuche. Die RPC-Funktion search_chunks in unserem Postgres führt beide Abfragen parallel aus, berechnet die RRF-Werte und liefert sortierte Treffer. Von Anfang bis Ende, einschließlich des Embeddings der Anfrage, dauerte eine Suche im September 2026 im Median rund 1,3 Sekunden. (Microsoft zu hybrider Suche)
Die nächste Ausbaustufe: Re-Ranking
Bei Anwendungen, in denen viel auf dem Spiel steht, etwa Beweissichtung in Rechtsverfahren, medizinische Fachliteratur oder Unternehmenssuche über Millionen Dokumente, ist hybride Suche mit RRF meist nur die vorletzte Stufe. Die letzte Stufe ist Re-Ranking mit einem Cross-Encoder-Modell.
Ein Cross-Encoder ist ein kleineres, langsameres Modell, das die vollständige Anfrage und das vollständige Kandidatendokument gemeinsam verarbeitet und per Attention über beide einen genauen Relevanzwert berechnet. Auf einer Million Dokumente kannst du es nicht laufen lassen, das wäre zu langsam. Du setzt es auf die besten 50–200 Ergebnisse der hybriden Suche an, um sie präzise neu zu sortieren.
Cohere bietet dafür rerank-v3 an. Open-Source-Alternativen sind bge-reranker-large und jina-reranker-v2. Für Verbraucheranwendungen in der Größenordnung von SavedThat rechtfertigt der geringe Zugewinn die zusätzlichen 100 ms Wartezeit nicht. Bei der Beweissichtung in Rechtsverfahren für Unternehmen ist Re-Ranking mit Cross-Encodern inzwischen Standard.
Wir bauen es ein, wenn unser Korpus oder unser Anwendungsfall es erfordert. Nicht früher.
Was das kostet
Die gesamte Verarbeitungskette kostet grob:
| Schritt | Kosten |
|---|---|
| 1.000 Abschnitte in Embeddings umwandeln (~50 Videos) | ~0,02 $ an OpenAI-Guthaben |
| 1 Mio. Abschnitte in pgvector speichern | ~25 $/Monat auf einer kleinen Postgres-Instanz |
| HNSW-Index für 1 Mio. Abschnitte aufbauen | ~30 Sekunden, einmalig pro größerer Datenänderung |
| Eine Suchanfrage (Embedding + HNSW-Abfrage + Volltextsuche + RRF) | ~0,0001 $, rund 1,3 s insgesamt |
Bei den Preisen von SavedThat deckt ein Pro-Abo (9,99 $/Monat) Tausende Suchen und mehrere Hundert neu gespeicherte Videos ab. Für Verbraucheranwendungen rechnet sich das gut. Was nicht funktioniert, ist ein dauerhaft kostenloser Tarif ohne Limits, denn die OpenAI-Rechnung wächst linear mit der Menge an Inhalten, während die Einnahmen bei null bleiben.
Warum die meisten „Second Brain“-Tools das nicht bieten
Drei Gründe:
- Technischer Aufwand. Hybride Suche mit RRF braucht zwei parallele Suchsysteme und einen Zusammenführungsschritt. Die meisten Teams bauen nur eines, und zwar meist die Stichwortsuche, weil sie älter ist und die Technik dafür ausgereift.
- Speicherkosten. Embeddings mit 1.536 Dimensionen × 4 Byte pro Dimension ergeben rund 6 KB pro Abschnitt. Eine Bibliothek mit 100.000 Abschnitten braucht 600 MB Vektorspeicher zusätzlich zum Originaltext. Ohne
halfvecund MRL ist die Rechnung doppelt so hoch. - Trägheit. Die meisten bestehenden Notiz-Tools sind erschienen, bevor Satz-Embeddings zur günstigen Massenware wurden. Semantische Suche in Evernote oder Pocket nachzurüsten hätte ein eigenes Vektordatenbank-Projekt erfordert, das dort nie Priorität hatte.
Die Tools, die von Anfang an semantische Suche bieten, also Mem, Reflect, Glasps Premium-Tarif und SavedThat, sind meist nach 2022 entstanden. Damals fielen die Kosten für Embeddings unter die Schwelle, ab der sich Verbraucheranwendungen dauerhaft tragfähig bepreisen ließen.
Was das praktisch bedeutet
Wenn du 2026 ein Tool prüfst, das irgendetwas durchsuchen soll, frag:
- Erzeugt es Embeddings? Wenn im Architekturdiagramm kein Vektorspeicher vorkommt, lautet die Antwort Nein.
- Nutzt es hybride Suche? Rein semantische Suche ist bei vielen echten Anfragen schlechter als eine hybride. Tools, die „Vektorsuche“, aber keine Volltextsuche bieten, machen es nur halb richtig.
- Unterstützt es mehrere Sprachen? Das hängt vom Embedding-Modell ab, nicht von der Suchinfrastruktur.
text-embedding-3-smallfunktioniert in über 100 Sprachen; ältere oder kleinere Modelle nicht. - Legt es die Technik überhaupt offen? Tools, die erklären, wie ihre Suche funktioniert, machen es meist gut. Tools, die „KI-gestützte Suche ✨“ versprechen, ohne ins Detail zu gehen, stecken meist hinter Variante 2 oder 3 von oben (LLM über einer Stichwortsuche oder reines Frage-Antwort-System).
Für das Speichern und spätere Wiederfinden von Videos: SavedThat erfüllt alle vier Punkte (Architekturüberblick hier). Glasp bietet nur Stichwortsuche (Gratis-Tarif) und semantische Suche (bezahlt). Mem bietet nur semantische Suche, ohne Hybrid. Notions „KI-Suche“ ist Variante 2, ein LLM über einer Stichwortsuche.
So sieht die Landschaft im Mai 2026 aus.
Weiterlesen
In gespeicherten Videos suchen: der komplette Guide 2026
In gespeicherten Videos suchen: nach dem Gesagten auf YouTube, Instagram und TikTok. Wie Transkriptsuche 2026 funktioniert und welche vier Tools es können.
Video-Transkriptsuche: die Tools 2026
Video-Transkriptsuche 2026 im ehrlichen Vergleich: welche Tools gespeicherte YouTube-, Reels- und TikTok-Videos nach dem Gesagten durchsuchen und welche nicht.
Video-Bookmark-Manager mit Transkriptsuche (2026)
Video-Bookmark-Manager mit Transkriptsuche 2026: sieben Tools ehrlich verglichen, von SavedThat und Quiki bis Raindrop Pro, Mymind und Glasp.
Häufige Fragen (2026)
Was ist der Unterschied zwischen einem Embedding und einem Vektor?
Praktisch keiner, die Begriffe werden meist gleichbedeutend verwendet. Genau genommen ist ein Embedding die *Darstellung*, die ein Modell erzeugt, und ein Vektor einfach eine Liste von Zahlen. Jedes Embedding ist ein Vektor, aber nicht jeder Vektor ist ein Embedding (eine Spalte mit Pixelhelligkeiten ist ein Vektor, aber kein Embedding). In den meisten Fachartikeln und technischen Dokumentationen steht „Vektor“ für die Speicherseite und „Embedding“ für das Konzept.
Funktioniert semantische Suche in jeder Sprache?
Das hängt vom Embedding-Modell ab. OpenAIs text-embedding-3-small wurde auf über 100 Sprachen trainiert und erzeugt Vektoren, die sprachübergreifend grob aufeinander abgestimmt sind: Eine russische Anfrage und ein englisches Dokument zum selben Thema landen in ähnlichen Regionen des Vektorraums. Kleinere Open-Source-Modelle werden bei nicht-englischen Inhalten oft deutlich schlechter. Wenn du mehrere Sprachen brauchst, prüf, ob die Model Card sprachübergreifende Ausrichtung (Cross-Lingual Alignment) ausdrücklich erwähnt.
Was unterscheidet hybride Suche davon, zwei Suchen auszuführen und beide Ergebnislisten anzuzeigen?
Wer zwei Suchen ausführt und die Ergebnisse einfach aneinanderhängt, bekommt nur doppelt so viele Ergebnisse. Hybride Suche führt sie über einen Wert zusammen (RRF oder gewichtete Fusion), sodass die endgültige Reihenfolge widerspiegelt, wo sich beide Methoden einig sind. Ein Dokument auf Platz 1 bei der Stichwortsuche und Platz 1 bei der semantischen Suche landet insgesamt auf Platz 1; ein Dokument auf Platz 1 bei den Stichwörtern und Platz 50 bei der Semantik rutscht ins Mittelfeld. Ohne Zusammenführung weißt du nicht, welchen Ergebnissen du trauen kannst.
Warum verliert rein semantische Suche bei exakten Formulierungen gegen die Stichwortsuche?
Embeddings bilden Bedeutung ab, nicht wörtliche Zeichenketten. Bei einer Anfrage wie „text-embedding-3-small“ steckt die Bedeutung eher in „ein Modell aus der OpenAI-Embedding-Familie“ als in der wörtlichen Zeichenfolge. Der Vektor der Anfrage ähnelt daher den Vektoren von Dokumenten, die OpenAI-Embeddings allgemein behandeln, und diese können höher eingestuft werden als das konkrete Dokument mit dem exakten Produktnamen. Die Stichwortsuche kennt bei exakten Zeichenketten keine Mehrdeutigkeit: Sie kommen vor oder nicht. Hybride Suche deckt beide Fälle ab.
Ist RAG dasselbe wie semantische Suche?
Verwandt, aber nicht dasselbe. Semantische Suche ist der Suchschritt: Sie findet Dokumente, die im Vektorraum nah an einer Anfrage liegen. RAG (Retrieval-Augmented Generation) ist ein System, das per semantischer Suche Dokumente holt und sie dann an ein generatives LLM übergibt, das mit diesen Dokumenten als Kontext eine Antwort schreibt. RAG enthält semantische Suche als einen Baustein; semantische Suche gibt es aber auch ohne RAG, wenn du nur die Dokumente finden und keinen Text darauf aufbauen willst.
Brauche ich eine GPU für semantische Suche?
Für die Suche in einem bestehenden Index nicht. Für Anwendungen in Verbrauchergröße reicht eine CPU. Beim Aufbau des Index, also wenn das Embedding-Modell über deine Inhalte läuft, ist eine GPU schneller, aber nicht nötig. Die API von OpenAI berechnet die Embeddings im eigenen Rechenzentrum und gibt dir den Vektor zum Speichern zurück; auf deiner Seite bleiben nur die Vektordatenbank und das Embedding der Anfrage (ein kurzer API-Aufruf pro Suche). Die Kosten liegen bei Cents pro tausend Suchen.