NVIDIA lanza Nemotron 3 Embed: el modelo de embedding #1 en RTEB para RAG y agentes IA

El 16 de julio de 2026, NVIDIA publicó Nemotron 3 Embed, una familia de modelos de embedding de código abierto y uso comercial diseñados para mejorar la calidad de recuperación en sistemas de RAG, agentes IA, recuperación de código y memoria de agentes. El modelo insignia de 8B parámetros alcanza el #1 en el leaderboard RTEB (massive Text Embedding Benchmark), superando a todos los modelos abiertos y cerrados existentes.

La colección incluye tres modelos abiertos que cubren todo el espectro precisión-eficiencia, desde un flagship de 8B hasta variantes optimizadas de 1B para producción a escala.

Los tres modelos de Nemotron 3 Embed

Modelo	Parámetros	Rol	Ideal para
Nemotron-3-Embed-8B-BF16	8B	Flagship de calidad — #1 en RTEB	Recuperación de precisión crítica, RAG empresarial de alto riesgo
Nemotron-3-Embed-1B-BF16	1.14B	Estándar de alta eficiencia	Serving en producción donde latencia y coste importan
Nemotron-3-Embed-1B-NVFP4	0.8B	Variante acelerada para Blackwell	Ultra-alto throughput e infraestructura a gran escala

Características principales

1. #1 en RTEB con 78.5%

Nemotron-3-Embed-8B-BF16 alcanza el primer puesto en el leaderboard RTEB multilingüe con 78.5% de NDCG@10, y 75.5% en MMTEB Retrieval. Supera a todos los modelos abiertos y cerrados evaluados.

2. Contexto de 32K tokens

Soporta recuperación sobre documentos largos, contextos de código extensos e historiales multi-turno de agentes, reduciendo truncamiento y pérdida de información.

3. Multilingüe y code retrieval

Evalado en 34 idiomas incluyendo español, inglés, chino, japonés, coreano, árabe, hindi, ruso, portugués, francés, alemán y más. También soporta recuperación en repositorios de código multi-archivo.

4. NVFP4 en Blackwell: 2x throughput

La variante NVFP4 usa cuantización nativa de 4 bits en arquitecturas NVIDIA Blackwell, entregando hasta 2x más throughput que BF16 mientras retiene 99%+ de la precisión. Usa Quantization-Aware Distillation (QAD) para recuperar precisión en secuencias largas.

5. Open weights + recetas de entrenamiento

Pesos abiertos, datasets y recetas de fine-tuning y destilación publicadas. Los equipos pueden inspeccionar, tune-ar y desplegar en su propia infraestructura.

6. Integración day-0

Disponible inmediatamente en:

• Hugging Face (SentenceTransformers, Transformers, vLLM)
• NVIDIA NIM (microservicio optimizado)
• Partners de AI Cloud: Baseten, Bitdeer AI, DeepInfra, Friendli AI, OpenRouter

Benchmarks: resultados detallados

RTEB y MMTEB

Modelo	RTEB (NDCG@10)	MMTEB Retrieval	Mejora vs predecesor
Nemotron-3-Embed-8B-BF16	78.5%	75.5%	#1 en RTEB
Nemotron-3-Embed-1B-BF16	72.4%	71.0%	-27% error rate en RTEB -28% error rate en MMTEB

Impacto en coste agéntico

NVIDIA evaluó los modelos en un escenario agéntico real: un agente de búsqueda potenciado por Nemotron 3 Ultra, variando el modelo de embedding. Los resultados muestran que mejor recuperación reduce el coste de tokens downstream:

• El modelo 8B entrega la mayor precisión de recuperación y el menor coste estimado de tokens agénticos por query
• Retornar evidencia relevante antes significa menos búsquedas repetidas y menos turnos de razonamiento
• Evalado en ViDoRe V3, BRIGHT y BrowseComp-Plus

NVFP4 vs BF16 (1B)

Métrica	1B BF16	1B NVFP4
Throughput	Base	2x mayor en Blackwell
Retención de precisión	100%	99%+
Memoria	Base	Menor footprint

Cómo se construyeron los modelos

Modelo 8B

Nemotron-3-Embed-8B-BF16 adapta el backbone Ministral-3-8B-Instruct-2512 de Mistral, convirtiendo su decoder causal en un encoder bidireccional para recuperación de secuencia completa. El entrenamiento incluye:

1. Pre-training contrastivo en pares de texto web y sintéticos
2. Fine-tuning en datasets multilingües de recuperación curados (legal, finanzas, médico, negocios, educación)

Modelo 1B: pruning + destilación

El modelo 1B no es un retriever pequeño entrenado desde cero. Se construye mediante un pipeline de compresión de dos rondas:

1. Base 3B: adaptación bidireccional de Ministral-3-3B-Instruct-2512
2. Ronda 1 (3B → 2B): pruning estructurado con NVIDIA ModelOpt (NAS sobre hidden width, FFN size, attention heads, depth) + destilación desde teacher 8B
3. Ronda 2 (2B → 1.14B): misma secuencia de pruning + destilación
4. Entrenamiento final: escalado progresivo de contexto en dos stages:
   • Stage 1: alineación multilingüe broad a 1024 tokens
   • Stage 2: expansión a 4096 tokens con datasets sintéticos de long-context y reasoning

Tutorial: cómo usar Nemotron 3 Embed

Opción 1: Con SentenceTransformers (Python)

pip install sentence-transformers

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("nvidia/Nemotron-3-Embed-1B-BF16")

embeddings = model.encode([
    "Cómo funciona la recuperación semántica en RAG",
    "Semantic retrieval in RAG systems"
])

similarity = model.similarity(embeddings[0], embeddings[1])
print(f"Similitud: {similarity}")

Opción 2: Con Transformers nativo

import torch
from transformers import AutoModel, AutoTokenizer

model_name = "nvidia/Nemotron-3-Embed-8B-BF16"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModel.from_pretrained(model_name, torch_dtype=torch.bfloat16)

texts = ["Documento a embeddir", "Consulta del usuario"]
inputs = tokenizer(texts, padding=True, truncation=True, max_length=32768, return_tensors="pt")

with torch.no_grad():
    outputs = model(**inputs)

# Mean pooling
token_embeddings = outputs.last_hidden_state
mask = inputs.attention_mask.unsqueeze(-1).float()
embeddings = (token_embeddings * mask).sum(1) / mask.sum(1)

Opción 3: Con vLLM (serving)

pip install vllm

from vllm import LLM

model = LLM(
    model="nvidia/Nemotron-3-Embed-1B-BF16",
    task="embed",
    max_model_len=32768
)

embeddings = model.embed([
    "Texto de ejemplo para generar embedding"
])

Opción 4: Vía NVIDIA NIM (API)

curl -X POST https://integrate.api.nvidia.com/v1/embeddings \
  -H "Authorization: Bearer $NVIDIA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-3-embed-1b",
    "input": ["Documento 1", "Documento 2"],
    "input_type": "query"
  }'

Opción 5: Vía OpenRouter (ruta gratuita)

curl https://openrouter.ai/api/v1/embeddings \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-3-embed-1b:free",
    "input": "Texto a embeddir"
  }'

Fine-tuning para tu dominio

NVIDIA publicó recetas abiertas con NeMo AutoModel:

# Fine-tuning para adaptación de dominio
# Ver: https://github.com/NVIDIA-NeMo/Nemotron/tree/main/docs/nemotron/embed

# Destilación para compresión
# Ver: https://github.com/NVIDIA-NeMo/Automodel/tree/main/examples/retrieval/distillation

En la evaluación NV Docs, fine-tuning del modelo 1B mejoró NDCG@10 de 56.7% a 63.3% (+11.6%) y Recall@5 de 56.1% a 62.8% (+11.9%).

Nemotron 3 Embed 8B vs 1B: ¿cuál elegir?

Criterio	8B BF16	1B BF16	1B NVFP4
RTEB	78.5%	72.4%	~72%
MMTEB	75.5%	71.0%	~70.5%
% de precisión del 8B	100%	~95%	~94%
Throughput	Menor	Mayor	2x mayor en Blackwell
Memoria	Mayor	Menor	Mínima
Hardware recomendado	GPU datacenter	GPU datacenter / edge	Blackwell (GB200, RTX PRO 6000)
Ideal para	Calidad máxima, RAG crítico	Producción balanceada	Ultra-throughput, escala masiva

Casos de uso

1. RAG empresarial

Recuperación de documentos corporativos con precisión de frontera. El modelo 8B maximiza la calidad de recuperación; el 1B balancea coste y latencia.

2. Memoria de agentes IA

Con contexto de 32K, los agentes pueden recuperar historiales de conversación largos y contexto relevante sin truncamiento.

3. Code retrieval

Búsqueda semántica en repositorios de código multi-archivo, documentación técnica y bases de conocimiento de ingeniería.

4. Recuperación agéntica

En sistemas donde un agente realiza búsquedas iterativas, mejor recuperación significa menos búsquedas repetidas, menos tokens de razonamiento y menor coste total.

5. Búsqueda multilingüe

Con soporte para 34 idiomas, permite construir sistemas de recuperación globales sin necesidad de modelos separados por idioma.

Especificaciones técnicas

Especificación	Valor
Contexto máximo	32.768 tokens (32K)
Idiomas soportados	34
Backbone 8B	Ministral-3-8B-Instruct-2512 (Mistral)
Backbone 1B	Ministral-3-3B-Instruct-2512 (pruning + destilación)
Arquitectura	Encoder bidireccional
Licencia	Open weights, uso comercial permitido
NIM microservice	Rust-based, optimizado para GB200 y RTX PRO 6000
Formatos	BF16, NVFP4

Preguntas frecuentes

¿Nemotron 3 Embed es gratuito?

Los pesos son abiertos con uso comercial permitido. Vía API (NIM, OpenRouter, partners) se cobra por uso. OpenRouter ofrece una ruta gratuita de prueba para el modelo 1B.

¿Qué es RTEB?

RTEB (Retrieval Text Embedding Benchmark) es el benchmark de referencia para modelos de embedding, evaluando recuperación multilingüe en múltiples tareas y dominios.

¿Necesito GPUs NVIDIA para usarlo?

No. Los modelos BF16 funcionan en cualquier GPU (AMD, Intel, Apple Silicon) vía Hugging Face Transformers o vLLM. La variante NVFP4 sí requiere GPUs NVIDIA Blackwell.

¿Puedo fine-tunear para mi dominio?

Sí. NVIDIA publicó recetas de fine-tuning y destilación con NeMo AutoModel. En pruebas internas, fine-tuning del 1B mejoró NDCG@10 en +11.6%.

¿Qué ventaja tiene sobre otros embeddings?

El modelo 8B es #1 en RTEB. El 1B retiene 95% de esa calidad con mucho menor coste. La variante NVFP4 ofrece 2x throughput en Blackwell. Además incluye contexto de 32K y soporte para 34 idiomas.

Recursos

• Colección en Hugging Face
• Modelo 8B en Hugging Face
• Modelo 1B BF16 en Hugging Face
• Modelo 1B NVFP4 en Hugging Face
• NVIDIA NIM microservice
• OpenRouter (ruta gratuita)
• Receta de fine-tuning
• Receta de destilación

Conclusión

NVIDIA Nemotron 3 Embed representa un salto significativo en modelos de embedding abiertos. Con el #1 en RTEB, contexto de 32K, soporte para 34 idiomas, recetas de fine-tuning abiertas y optimización para Blackwell con 2x throughput, se posiciona como la opción más completa para equipos que construyen sistemas de RAG, memoria de agentes y recuperación a escala.

La estrategia de tres variantes (8B para calidad máxima, 1B BF16 para producción balanceada, 1B NVFP4 para ultra-throughput en Blackwell) cubre todo el espectro de necesidades, desde investigación hasta infraestructura a escala masiva. Y al ser open weights con uso comercial permitido, los equipos pueden auditar, adaptar y desplegar con control total.