Glosario
Los términos de todas las piezas, en un solo lugar.
Abliteración
Técnica para quitarle a un modelo la capacidad de rechazar solicitudes, editando sus pesos. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Ancho de banda de memoria
Cantidad de datos que el chip puede mover desde la memoria por segundo. Suele ser el límite de velocidad al usar LLM con una sola conversación. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Artificial Analysis Intelligence Index
Índice que combina varias pruebas para resumir la capacidad de un modelo. Sus notas solo se comparan dentro de una misma versión. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
Autorregresivo (AR)
Modelo que genera un token cada vez, de izquierda a derecha, usando lo ya escrito. Es la forma en que funcionan casi todos los chatbots actuales. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
BLEU
Métrica que mide cuánto se parece una traducción automática a una traducción de referencia. Más alto es mejor. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Caché KV
Memoria donde el modelo guarda lo ya procesado para no recalcularlo. Crece con el largo de la conversación. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Cadena de suministro
Todo lo que hay entre el creador original y lo que usas: ajustes, mezclas, cuantizaciones, plantillas y programas. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Codebook
Tabla fija de vectores de la que un VQ-VAE elige la entrada más cercana. Cada código es el índice de una entrada. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Cuantización
Guardar los pesos con menos precisión para que ocupen menos memoria, a cambio de perder algo de calidad. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
CVE y CVSS
CVE es el identificador público de una vulnerabilidad. CVSS es su puntaje de gravedad, de 0 a 10. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Difusión de texto
Familia de modelos que refinan varias posiciones a la vez en muchas pasadas, en lugar de escribir token a token. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
DNS rebinding
Técnica en que un dominio cambia de dirección para que el navegador acceda a un servicio local como si fuera el mismo sitio. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Envenenamiento de datos
Introducir ejemplos manipulados en un entrenamiento para alterar la conducta del modelo. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Esfuerzo de razonamiento
Ajuste que define cuánto puede pensar un modelo antes de responder. Más esfuerzo suele subir la nota, la espera y el costo. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
GB y GiB
GB son mil millones de bytes; GiB son 1.073.741.824 bytes. La VRAM se mide de hecho en GiB y los archivos suelen informarse en GB. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
GGUF
Formato de archivo muy usado para distribuir modelos locales. Contiene pesos y metadatos, incluida la plantilla de chat. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Infostealer
Malware que roba datos del equipo, como credenciales del navegador o monederos. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
LLMjacking
Uso no autorizado de servicios de modelos ajenos, a veces para revender el acceso. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Loopback
Dirección 127.0.0.1, con la que un equipo se habla a sí mismo. Un servicio ahí no se ve desde la red. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Lote (batch)
Grupo de solicitudes que se procesan juntas. Permite que una lectura de pesos sirva para todas. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
MBR
Decodificación de mínimo riesgo bayesiano: se generan varios candidatos y se elige el que más se parece a los demás. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Mezcla de expertos (MoE)
Arquitectura dividida en bloques especializados, donde solo algunos se activan en cada paso. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Modelo denso
Modelo en que todos sus parámetros trabajan para cada token. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
MTP
Predicción de varios tokens: un método para acelerar modelos AR proponiendo y verificando varios tokens por pasada. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
N-gramas
Secuencias cortas de palabras o tokens. Flash Next usa una tabla de ellas como pieza aparte. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
NCM
Next-Concept Modeling: genera códigos desde lo más grueso a lo más fino, con todos los códigos de un nivel en paralelo. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
NFE
Número de evaluaciones de la función: cuántas veces se ejecuta el generador. En esta base se le llama pasadas. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Parámetros (pesos)
Valores numéricos que el modelo aprende en el entrenamiento y que debe cargar para funcionar. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Plantilla de chat
Programa, normalmente en Jinja, que formatea los mensajes antes de que lleguen al modelo. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Prefill
Etapa en que el modelo procesa toda la entrada antes de responder. Muchas posiciones se trabajan juntas y pesa más el cálculo. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Puerta trasera (backdoor)
Conducta oculta que solo se activa ante un disparador concreto. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
ROUGE-L
Métrica que compara un resumen con uno de referencia. Más alto es mejor. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
Runner
Programa que carga y ejecuta modelos, como Ollama, LM Studio o llama.cpp. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
SafeTensors
Formato para guardar pesos que evita ejecutar código al cargarlos, a diferencia de pickle. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Separación de privilegios
Repartir permisos entre procesos para que ninguno pueda hacer todo por sí solo. Tu IA local es privada, pero ¿es segura? Las cinco capas que debes revisar
Token
Fragmento de texto, a veces menor a una palabra, que es la unidad con que trabaja un LLM. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
VQ-VAE
Red que comprime datos en códigos discretos y puede reconstruirlos. En versión residual multiescala, usa niveles que corrigen a los anteriores. ¿Se acabaron los LLM? Qué es NCM y qué cambia de verdad
VRAM
Memoria de la tarjeta gráfica. Debe alojar el modelo y la caché para funcionar a buena velocidad. ¿Compro tarjeta o espero a Qwen 4? Las cuentas de un modelo que todavía no existe
No hay resultados para esa búsqueda.