Vector search (ANN)

Wat is vector search?

Vector search is een manier om items terug te vinden op basis van hun betekenis in plaats van de exacte woorden die erin staan. Je zet tekst, een afbeelding of een geluidsfragment eerst om in een vector, een rij getallen die vastlegt waarover het gaat. Zoeken wordt dan een kwestie van de vectoren vinden die het dichtst bij de vector van je vraag liggen.

Die omzetting gebeurt met een embedding-model. Het legt gelijkaardige betekenissen dicht bij elkaar in een ruimte van honderden tot duizenden dimensies. Zoek je op "goedkope stadswagen", dan komt "budget compact car" naar boven, ook al delen die twee geen enkel woord. Voor een klassieke keyword-zoeker zijn het twee vreemden, voor vector search liggen ze vlak naast elkaar.

Je kan het vergelijken met een kaart. Elk item krijgt een plek, en items die op elkaar lijken staan in dezelfde buurt. Zoeken is dan: bepaal waar de vraag op de kaart valt en kijk welke punten er het dichtst omheen liggen.

Exact zoeken versus approximatie

De dichtstbijzijnde buren vinden kan op twee manieren. De exacte manier heet k-nearest neighbor (kNN): je vergelijkt de vraag met elke vector in de verzameling en houdt de k dichtste over. Dat geeft altijd het juiste antwoord, maar de rekentijd groeit mee met het aantal vectoren. Bij enkele miljoenen items wordt elke zoekopdracht daardoor te traag voor een vlot gesprek of een drukke webshop.

Daarom gebruikt vector search op schaal approximate nearest neighbor (ANN). Een ANN-methode slaat een groot deel van de vergelijkingen over en vindt bijna altijd dezelfde buren, maar in een fractie van de tijd. Je levert een klein beetje juistheid in en krijgt daar een grote snelheidswinst voor terug. Hoeveel je inlevert kan je zelf instellen. Laat de zoeker breder kijken en je nadert het exacte antwoord, houd hem smal en je wint tijd.

Hoe ANN sneller zoekt

Een ANN-methode werkt met een index: een structuur die de vectoren vooraf zo ordent dat je niet meer alles hoeft te overlopen. Twee soorten kom je het vaakst tegen.

HNSW (Hierarchical Navigable Small World) bouwt een graaf. Elke vector is een punt dat verbonden is met zijn buren, verdeeld over meerdere lagen. Zoeken begint bovenaan met een paar lange sprongen over de ruimte en zakt laag per laag naar de buurt van je vraag, tot het geen dichter punt meer vindt. Zo spring je in enkele stappen over grote hopen irrelevante vectoren heen.

IVF (inverted file) werkt met clusters. De vectoren worden vooraf in groepen verdeeld, elk rond een centraal punt. Bij een zoekopdracht bepaal je eerst in welke groep de vraag valt en vergelijk je enkel binnen die groep en een paar buurgroepen. De rest sla je over.

Om te bepalen hoe dicht twee vectoren bij elkaar liggen heb je een maat nodig. De meest gebruikte is cosine similarity: die kijkt naar de hoek tussen twee vectoren, niet naar hun lengte. Twee teksten over hetzelfde onderwerp wijzen dezelfde richting uit, ook al is de ene veel langer dan de andere.

Waar gebruik je vector search?

• Semantisch zoeken. Zoeken op bedoeling in plaats van op exact woord. Een klant die "regenjas voor op de fiets" typt, vindt ook een "waterdichte fietsponcho" in je catalogus.

• Aanbevelingen. Toon items die dicht liggen bij wat iemand net bekeek of kocht. Werkt voor producten, artikels, muziek en video.

• Retrieval in RAG. Bij retrieval-augmented generation haalt een taalmodel eerst de relevante fragmenten uit je eigen documenten op, en schrijft daarna een antwoord op basis van die fragmenten. Die ophaalstap is precies vector search.

• Beeld en geluid. Dezelfde aanpak werkt over media heen. Een foto van een hond en het woord "hond" belanden dicht bij elkaar wanneer je een multimodaal embedding-model gebruikt.

Vector search en de vector database

Vector search is de techniek. Een vector database is het systeem dat ze praktisch maakt. Die databank slaat de vectoren op, houdt hun metadata bij en bouwt de ANN-index (HNSW of IVF) waarmee het zoeken snel blijft. Je stuurt een vraag-vector binnen en krijgt de dichtstbijzijnde buren terug, vaak samen met een filter op metadata zoals datum, klant of toegangsrechten.

Bekende voorbeelden zijn Azure AI Search, Pinecone, Qdrant, Weaviate en pgvector, de vector-extensie voor PostgreSQL. Ze verschillen in schaal en beheer, maar de kern is bij allemaal dezelfde: vectoren opslaan en er met een ANN-index snel de gelijkaardige buren in terugvinden.

Waar moet je op letten bij vector search?

Zuiver semantisch zoeken mist exacte termen. Artikelnummers, productcodes of afkortingen liggen niet altijd dicht bij elkaar als vector. Hybride zoeken, waarbij je vector search combineert met een klassieke keyword-index, vangt die gevallen op.

De kwaliteit hangt aan het embedding-model. Ligt het model naast de taal of het vakgebied van je gebruikers, dan liggen de verkeerde items dicht bij elkaar en haalt de zoeker er de verkeerde resultaten uit. Test met echte vragen voor je live gaat.

Meer juistheid kost tijd. Je kan een ANN-index breder laten zoeken voor een hoger aandeel juiste buren, maar dat vertraagt elke zoekopdracht. Waar het omslagpunt ligt hangt af van je volume en van hoe snel een antwoord moet komen.