nafyi.Raw static token vectors are a poor fit for MaxSim
Markewich advises against scoring raw static token vectors with MaxSim: it performed worse than standard pooling in the team’s exploration, changes the training target, and assumes contextualized vectors that static embeddings do not provide.
Evidencia a favor
Extracto original
Don't score raw static token vectors with MaxSim. It's worse than the standard pooling, the scoring method is technically changing the training target. MaxSim assumes contextualized vectors and static embeddings are not contextual.Exploring Static Embedding Retrieval
Este fragmento no incluye más contexto. Consulta la conversación original.
Abrir el original · Párrafo 45 (se abre en una pestaña nueva)Fuente del texto original (se abre en una pestaña nueva)
La ubicación procede del texto original; compruebe la redacción y la atribución en su contexto.
Compartir informaciónVerificar esta afirmación