prompt

Un ahorro de costos oculto en los servicios de IA: reutilizar el cómputo de los prefijos de prompt repetidos (instrucciones del sistema, documentos) en vez de recalcularlos cada vez.

¿Cómo se llama?

Q: ¿Cómo se llama?

Prompt caching (caché de prompts). El prompt caching almacena y reutiliza el cómputo de entradas repetidas, reduciendo drásticamente el costo y la latencia — especialmente vital para los agentes que releen el mismo contexto docenas de veces.

Prompt caching (caché de prompts) ✓
Lavado de prompts
Encurtido de prompts

Prompt caching (caché de prompts)
El prompt caching almacena y reutiliza el cómputo de entradas repetidas, reduciendo drásticamente el costo y la latencia — especialmente vital para los agentes que releen el mismo contexto docenas de veces.

▶ Quration AIQ

prompt

¿Cómo se llama?¿Cómo se llama esta técnica de incluir ejemplos en el prompt?¿Cómo se llama esta técnica de hacer que el modelo escriba primero su razonamiento?¿Cuál es la sigla de esta 'generación aumentada por recuperación'?¿Cómo se llama esto?¿Cómo se llama?¿Cómo se llama esta representación numérica?¿Cómo se llama esta habilidad emergente?¿Cuál es el nombre común de esta función que conserva información del usuario entre sesiones?¿Qué hizo posible este salto?¿Cómo llama ChatGPT a estos chatbots personalizados?¿Cómo se llama esta técnica de asignarle un rol a la IA para moldear su perspectiva y profundidad?

Quration — Quration AIQ