Raw static token vectors are a poor fit for MaxSim

Markewich advises against scoring raw static token vectors with MaxSim: it performed worse than standard pooling in the team’s exploration, changes the training target, and assumes contextualized vectors that static embeddings do not provide.

Logan Markewich·Publicado 26 ago 2026

Detrás de la opinión

Las traducciones son para facilitar la lectura; los extractos originales siguen siendo la source evidence.

Exploring Static Embedding Retrieval

Extracto original

Don't score raw static token vectors with MaxSim. It's worse than the standard pooling, the scoring method is technically changing the training target. MaxSim assumes contextualized vectors and static embeddings are not contextual.

Este fragmento no incluye más contexto. Consulta la conversación original.

Abrir el original · Párrafo 45 Ver página de la fuente

Abrir el episodio y buscar el momento —.

La ubicación procede del texto original; compruebe la redacción y la atribución en su contexto.