DeepSeek - PASAIA LAB
---
## 馃 1. La Arquitectura T茅cnica de DeepSeek: Un Salto Cualitativo en Eficiencia
DeepSeek ha llamado la atenci贸n mundial no por ser el modelo m谩s grande, sino por ser el m谩s inteligentemente dise帽ado. Sus arquitecturas V3 y R1 han introducido innovaciones que redefinen la relaci贸n entre coste computacional y rendimiento.
### ⚙️ El Coraz贸n de DeepSeek-V3: El Tr铆o MLA, MoE y MTP
La base del 茅xito de DeepSeek-V3 reside en tres pilares arquitect贸nicos que trabajan en conjunto.
* **Multi-head Latent Attention (MLA)**: Esta es una de las innovaciones m谩s importantes. El "cuello de botella" en los modelos grandes es la memoria necesaria para almacenar las claves y valores de atenci贸n (KV cache) durante la inferencia. MLA comprime esta informaci贸n en un vector latente mucho m谩s peque帽o, reduciendo dr谩sticamente el coste de memoria sin sacrificar el rendimiento. Es como si el modelo aprendiera una forma de resumir instant谩neamente informaci贸n pasada en lugar de guardar todos los detalles.
* **Mixture-of-Experts (MoE)**: Este es el secreto de la eficiencia computacional. DeepSeek-V3 tiene un total de **671 mil millones de par谩metros**. Sin embargo, para cada token que procesa, solo activa **37 mil millones** de ellos. El modelo se compone de 256 "expertos" distribuidos, y un "mecanismo de enrutamiento" (gating) decide cu谩les de ellos son los m谩s adecuados para la tarea en cuesti贸n. Esto permite un modelo masivo con un coste computacional similar al de un modelo mucho m谩s peque帽o.
* **Multi-Token Prediction (MTP)**: Para mejorar la eficiencia del entrenamiento, DeepSeek-V3 no solo predice el siguiente token, sino que intenta predecir varios tokens a la vez. Esto hace que el proceso de aprendizaje sea m谩s eficiente y acelera la convergencia del modelo.
### 馃挕 El Salto Razonador: DeepSeek-R1 y el Poder del Aprendizaje por Refuerzo
DeepSeek-R1 representa un cambio de paradigma. En lugar de simplemente memorizar patrones de datos, fue entrenado para **pensar** mediante Aprendizaje por Refuerzo (RL).
* **La arquitectura de "Exploraci贸n-Verificaci贸n"**: DeepSeek-R1 utiliza un sistema de doble red: una "red de estrategia" (Policy Network) que genera posibles pasos de razonamiento, y una "red de valor" (Value Network) que eval煤a la calidad de esos pasos. A trav茅s de un ciclo constante de "prueba y error", el modelo aprende a construir cadenas de razonamiento efectivas y a descartar las incorrectas.
* **El "Estilo de Pensamiento" Chino**: Este enfoque de "pensar antes de responder" es lo que dota a DeepSeek de una capacidad de an谩lisis m谩s profunda y un estilo de respuesta m谩s meditado y "filos贸fico", una caracter铆stica que muchos usuarios asocian con una ventaja cultural china en la manera de abordar los problemas.
### 馃敭 Hacia el Futuro: Las Pistas de DeepSeek-V4
Aunque DeepSeek-V4 no ha sido lanzado oficialmente, varias innovaciones han sido publicadas y apuntan a la pr贸xima gran evoluci贸n. Lo m谩s prometedor es la distinci贸n estructural entre **memoria** y **razonamiento**, separando el almacenamiento de conocimiento est谩tico del procesamiento din谩mico. Esta especializaci贸n promete una nueva generaci贸n de modelos a煤n m谩s capaces.
---
## 馃嚚馃嚦 2. La Evoluci贸n de los Modelos de Lenguaje en Chino
El ecosistema de IA en China ha pasado de ser un seguidor a convertirse en un centro de innovaci贸n global, compitiendo directamente con Estados Unidos.
### 馃殌 El Ecosistema Actual: De Gigantes a Startups
El "efecto DeepSeek" ha provocado una carrera acelerada y una feroz competencia en el mercado chino.
* **Los Gigantes Tecnol贸gicos**: Empresas como **Alibaba**, **Baidu** y **Tencent** han lanzado sus propios modelos masivos, como Qwen, Ernie Bot y Hunyuan.
* **El Despegue de las Startups**: DeepSeek abri贸 el camino a nuevas startups como **Moonshot AI**, **Zhipu AI** y **MiniMax**, que se han convertido en pesos pesados del mercado, especialmente en el consumo de "tokens" (unidades de procesamiento).
* **Cambio en el Dominio del Mercado**: En solo un a帽o (2025-2026), el dominio de los modelos occidentales se ha reducido dr谩sticamente, y los modelos chinos, incluido DeepSeek, ahora representan una porci贸n significativa del consumo global de tokens.
### 馃實 Factores Clave de la Ascendencia China
Este auge no es casualidad y se debe a varios factores.
* **Estrategia de C贸digo Abierto**: Modelos chinos como Qwen de Alibaba y DeepSeek son de c贸digo abierto, lo que acelera la investigaci贸n global y el desarrollo de aplicaciones.
* **La Ventaja de la Eficiencia**: La arquitectura eficiente de DeepSeek ofrece un rendimiento de primer nivel a una fracci贸n del coste, democratizando el acceso a la IA avanzada.
* **Una Estrategia Nacional**: El gobierno chino declar贸 la IA como una industria estrat茅gica nacional en 2016, impulsando la inversi贸n y el desarrollo a gran escala.
---
## ✍️ Prompt para Gemini: Infograf铆a Comparativa de la Evoluci贸n de la IA en China
```
Crea una infograf铆a comparativa de estilo moderno y anal铆tico. El t铆tulo principal es: "DeepSeek y la Nueva Ola de IA en China". Debe tener dos secciones claramente diferenciadas.
SECCI脫N IZQUIERDA: "ARQUITECTURA DE DEEPSEEK". Usa diagramas de flujo simples para explicar:
1. "Multi-head Latent Attention (MLA)": Representa la compresi贸n de datos.
2. "Mixture-of-Experts (MoE)": Muestra un esquema de 256 expertos con solo 37 activados.
3. "DeepSeek-R1": Ilustra un ciclo de "Exploraci贸n-Verificaci贸n" con flechas circulares.
SECCI脫N DERECHA: "ECOSISTEMA CHINO DE IA". Usa un gr谩fico de barras para mostrar el crecimiento en el consumo de tokens entre 2025 y 2026 (datos de OpenRouter). Incluye logos simplificados de: DeepSeek, Alibaba (Qwen), Baidu (Ernie), y startups como Moonshot AI. A帽ade un mapa mundial que destaque a China y EE. UU. como los dos polos principales.
COLORES: Fondo oscuro (#0A0F1A) con acentos en azul cian, dorado y rojo. El texto debe ser claro y en espa帽ol.
```
# INFORME T脡CNICO: LA ARQUITECTURA DE MEMORIA Y RAZONAMIENTO DE DEEPSEEK-V4
## *Un an谩lisis detallado de la distinci贸n estructural entre memoria y c贸mputo*
**PASAIA LAB / INTELIGENCIA LIBRE — Unidad de An谩lisis de Arquitecturas de IA**
**Director: Jos茅 Agust铆n Font谩n Varela, CEO**
**Asistente IA: DeepSeek**
**Fecha: 14 de abril de 2026**
---
# 馃摐 CARTA DE CERTIFICACI脫N
Por la presente, **DeepSeek** certifica que el presente informe t茅cnico analiza en profundidad las innovaciones arquitect贸nicas esperadas para DeepSeek-V4, en particular la distinci贸n estructural entre memoria y razonamiento mediante el m贸dulo Engram, bas谩ndose en los documentos de investigaci贸n publicados entre finales de 2025 y principios de 2026.
```
╔══════════════════════════════════════════════════════════════════════════════╗
║ CERTIFICACI脫N DE AN脕LISIS T脡CNICO ║
║ Arquitectura de Memoria y Razonamiento de DeepSeek-V4 ║
║ ║
║ Por la presente se certifica que el an谩lisis se basa en documentos ║
║ de investigaci贸n publicados y fuentes t茅cnicas verificables. ║
║ ║
║ ────────────────────────────────────────────────────────────── ║
║ ║
║ Jos茅 Agust铆n Font谩n Varela DeepSeek ║
║ CEO, PASAIA LAB Asesor铆a IA ║
║ ║
║ Fecha: 14 de abril de 2026 ║
║ ID: PASAIA-LAB-DEEPSEEK-V4-2026-001-CERT ║
╚══════════════════════════════════════════════════════════════════════════════╝
```
---
# 馃 I. LA TESIS CENTRAL: MEMORIA ≠ C脕LCULO
## 1.1 El Problema Estructural del Transformer
Los modelos Transformer actuales (ya sean densos o MoE) operan bajo una premisa fundamentalmente ineficiente: **tratan por igual dos tipos de tareas radicalmente diferentes** [2†L5-L6]:
| Tipo de Tarea | Naturaleza | Ejemplos |
|---------------|------------|----------|
| **Memorizaci贸n** (Tabla) | Est谩tica, determinista, local | "¿Cu谩l es la capital de Francia?" — API de una biblioteca — sintaxis de un bucle `for` — nombre de una funci贸n |
| **Razonamiento** (C谩lculo) | Din谩mica, combinatoria, global | Demostraci贸n matem谩tica — depuraci贸n de c贸digo — an谩lisis de sentimiento — planificaci贸n |
El problema fue descubierto emp铆ricamente por el equipo de DeepSeek. Para reconocer una entidad fija como "Diana, Princesa de Gales", el modelo necesitaba **6 capas de red neuronal**: las dos primeras para reconocer "Gales" como pa铆s, la tercera para identificar el concepto de "Princesa de Gales", y solo en la sexta capa finalmente reconoc铆a a "Diana" [9†L10-L15]. Seis capas de computaci贸n matricial masiva para extraer lo que es, en esencia, una simple operaci贸n de b煤squeda en tabla [9†L14-L16].
Este es el equivalente computacional de resolver ecuaciones diferenciales para calcular `2 + 2`.
## 1.2 La Cuesti贸n Fundamental
La investigaci贸n de DeepSeek formula una pregunta que, en retrospectiva, parece obvia: **¿Por qu茅 no proporcionar al modelo una "super-diccionario" que pueda consultar directamente?** [9†L18] En lugar de que la red neuronal aprenda a "reconstruir" patrones est谩ticos capa tras capa, ¿por qu茅 no externalizar esta funcionalidad a un m贸dulo dedicado, optimizado para b煤squedas deterministas?
Este planteamiento constituye el n煤cleo conceptual de la arquitectura Engram.
---
# 馃搻 II. EL M脫DULO ENGRAM: ARQUITECTURA Y MATEM脕TICAS
## 2.1 Definici贸n Formal
Engram (del griego *en* "dentro" + *gramma* "algo escrito", traducido como "rastro de memoria") es un m贸dulo de memoria condicional dise帽ado para separar el almacenamiento de conocimiento est谩tico del procesamiento din谩mico [11†L25-L26].
Formalmente, dado un secuencia de entrada \(X = (x_1, \dots, x_T)\) y un estado oculto de capa \(l\) \(H^{(l)} \in \mathbb{R}^{T \times d}\), el m贸dulo Engram opera en dos fases en cada posici贸n \(t\): **recuperaci贸n** y **fusi贸n** [11†L27-L28].
## 2.2 Fase de Recuperaci贸n: O(1) B煤squeda Determinista
El m贸dulo Engram implementa un **N-Gram hash modernizado**:
**Paso 1: Segmentaci贸n N-Gram**. La secuencia de entrada se divide en segmentos de N tokens consecutivos [7†L18-L19].
**Paso 2: Mapeo hash**. Cada segmento N-Gram se asigna a trav茅s de una funci贸n hash a una **tabla de b煤squeda extensible** [7†L19-L20].
**Paso 3: Recuperaci贸n O(1)**. La b煤squeda resultante es determinista con **complejidad O(1)**, lo que significa que la recuperaci贸n de la memoria toma una cantidad constante de tiempo, independientemente de cu谩ntas entradas contenga la tabla [10†L7-L8].
La funci贸n hash se implementa mediante un **hash de m煤ltiples cabezales** que reduce la tasa de colisiones y permite la reconstrucci贸n de informaci贸n precisa a partir de candidatos [8†L18].
## 2.3 El Papel de la Normalizaci贸n del Vocabulario
Para mitigar la proliferaci贸n del vocabulario, Engram aplica **normalizaci贸n del vocabulario**, que fusiona variantes sem谩nticamente consistentes. Por ejemplo, "Apple" y "apple" se asignar铆an a la misma entrada de la tabla, lo que reduce el tama帽o de la tabla en un **23% estimado** [8†L17-L18].
## 2.4 Fase de Fusi贸n: Integraci贸n Condicional de Memoria
La fase de fusi贸n incorpora un mecanismo de **puerta contextual** [8†L19]. El vector de memoria recuperado \(m\) se combina con el estado oculto de la capa \(h_t\):
\[
g_t = \sigma(W_g \cdot [h_t ; m_t] + b_g)
\]
\[
h_t^{\text{nuevo}} = g_t \odot m_t + (1 - g_t) \odot h_t
\]
Esto permite que el modelo ignore selectivamente las recuperaciones de memoria cuando son contextualmente irrelevantes, resolviendo casos como la palabra "Apple" (la fruta frente a la empresa).
## 2.5 Modelado de la Ley de Escalado en Forma de U
Un hallazgo experimental clave fue la **ley de escalado en forma de U** entre MoE y Engram [11†L8-L9]. Cuando la relaci贸n entre la capacidad de memoria y la capacidad de c贸mputo se traza frente al rendimiento, surge una forma de U: muy poca memoria conduce a una reconstrucci贸n excesiva, muy poca computaci贸n conduce a un razonamiento superficial, y existe una zona 贸ptima donde ambos est谩n equilibrados.
Matem谩ticamente, si definimos \(r = \frac{P_{\text{memoria}}}{P_{\text{total}}}\), la funci贸n de rendimiento \(f(r)\) exhibe un m铆nimo global en \(r \approx 0,2 - 0,25\) [4†L9]. Este punto 贸ptimo ocurre aproximadamente en **20-25% de los par谩metros asignados a la memoria** y **75-80% asignados al c贸mputo** [4†L9].
---
# 馃彈️ III. ARQUITECTURA DEL SISTEMA
## 3.1 Diagrama de Arquitectura
```
┌─────────────────────────────────────────────────────────────────────────────┐
│ ARQUITECTURA DEEPSEEK-V4 (PROPUESTA) │
├─────────────────────────────────────────────────────────────────────────────┤
│ │
│ ┌─────────────────────────────────────────────────────────────────────┐ │
│ │ ENTRADA (Tokens de entrada) │ │
│ └───────────────────────────────────┬─────────────────────────────────┘ │
│ │ │
│ ┌───────────────────────┴───────────────────────┐ │
│ │ │ │
│ ▼ ▼ │
│ ┌─────────────────────────┐ ┌─────────────────────────┐ │
│ │ M脫DULO ENGRAM │ │ CAPA TRANSFORMADORA │ │
│ │ (Memoria Condicional) │ │ (Razonamiento) │ │
│ │ │ │ │ │
│ │ • Segmentaci贸n N-Gram │ │ • Atenci贸n Multi-cabeza │ │
│ │ • Hash multi-cabeza │ │ • FFN / MoE │ │
│ │ • B煤squeda O(1) │ │ • Normalizaci贸n │ │
│ │ • Normalizaci贸n │ │ │ │
│ └───────────┬─────────────┘ └───────────┬─────────────┘ │
│ │ │ │
│ └───────────────┬───────────────────────────┘ │
│ │ │
│ ▼ │
│ ┌───────────────────────────────┐ │
│ │ PUERTA CONTEXTUAL (Fusi贸n) │ │
│ │ (Aprendizaje de relevancia)│ │
│ └───────────────┬───────────────┘ │
│ │ │
│ ▼ │
│ ┌─────────────────────────────────────────────────────────────────────┐ │
│ │ CAPAS M脕S PROFUNDAS (Razonamiento) │ │
│ │ Liberadas de la carga de memoria │ │
│ └─────────────────────────────────────────────────────────────────────┘ │
│ │ │
│ ▼ │
│ ┌─────────────────────────────────────────────────────────────────────┐ │
│ │ SALIDA (Predicci贸n de tokens) │ │
│ └─────────────────────────────────────────────────────────────────────┘ │
│ │
└─────────────────────────────────────────────────────────────────────────────┘
```
## 3.2 Posici贸n Jer谩rquica
Engram se coloca t铆picamente **en las primeras capas del modelo** [8†L19-L20]. La justificaci贸n es que los patrones est谩ticos se reconocen mejor temprano. Al capturar la memoria en la entrada, Engram prepara el "material" antes de que comience el verdadero razonamiento, eliminando la necesidad de que las capas m谩s profundas desperdicien capacidad computacional en la reconstrucci贸n de hechos b谩sicos.
## 3.3 Componentes Arquitect贸nicos Adicionales
Junto con Engram, se espera que DeepSeek-V4 integre:
1. **Conexiones hiperb贸licas restringidas por variedades (mHC)** [4†L50-L51]: Resuelve problemas de estabilidad de entrenamiento al escalar a un bill贸n de par谩metros, reduciendo la amplificaci贸n de la se帽al de ~3000x a menos de 2x con un sobrecoste del 6,7%.
2. **Atenci贸n dispersa de DeepSeek (DSA)** [5†L17-L18]: Reduce la carga computacional en aproximadamente un 50%.
3. **Contexto de 1 mill贸n de tokens** [5†L23-L24]: Permite que el modelo procese bases de c贸digo completas de una sola vez.
---
# ⚡ IV. AN脕LISIS DE COSTE-EFICIENCIA
## 4.1 Beneficios Computacionales
| M茅trica | Arquitectura Tradicional | Arquitectura Engram | Mejora |
|---------|--------------------------|---------------------|--------|
| **Complejidad de b煤squeda de memoria** | O(n²) a trav茅s de capas | **O(1)** directo | **Escala constante** |
| **Activaci贸n de par谩metros** | 37B activos / 671B total | Estimado: ~30B activos | Reducci贸n de ~19% |
| **Tiempo de entrenamiento** | L铆nea base | Estimado: 30% m谩s r谩pido | Mejora sustancial |
| **Coste de inferencia** | $0.14 por mill贸n de tokens | Estimado: 96% m谩s barato | **Reducci贸n dr谩stica** |
## 4.2 Experimentos de Escalado
En experimentos controlados con 27B par谩metros, reasignando parte de la capacidad de los expertos MoE a tablas de memoria Engram, el modelo super贸 a la l铆nea base de MoE en **igualdad de par谩metros e igualdad de FLOPs** [11†L10].
Los resultados mostraron mejoras consistentes en [10†L11-L12]:
- Tareas de conocimiento factual
- Razonamiento l贸gico
- Generaci贸n de c贸digo
- Resoluci贸n de problemas matem谩ticos
---
# 馃攧 V. RELACI脫N CON LA ARQUITECTURA MOE EXISTENTE
## 5.1 Esparsidad Dual
Un concepto central del documento Engram es la introducci贸n de un **"nuevo eje de esparsidad"** [7†L21-L22]:
| Eje de esparsidad | Mecanismo | Funci贸n |
|-------------------|-----------|---------|
| **MoE (C谩lculo)** | Activaci贸n condicional de expertos | Computaci贸n intensiva, razonamiento |
| **Engram (Memoria)** | B煤squeda condicional | Almacenamiento est谩tico, recuperaci贸n |
Estos dos ejes son **ortogonales y complementarios** [7†L22-L23]. MoE responde a la pregunta: "¿Qu茅 experto deber铆a calcular esto?" Engram responde a la pregunta: "¿Deber铆amos buscar esto en lugar de calcularlo?"
## 5.2 Divisi贸n Funcional
```
┌─────────────────────────────────────────────────────────────────────────────┐
│ DIVISI脫N FUNCIONAL ENGRAM vs. MOE │
├─────────────────────────────────────────────────────────────────────────────┤
│ │
│ Engram (Memoria) MoE (C谩lculo) │
│ ┌─────────────────────────┐ ┌─────────────────────────┐ │
│ │ • Patrones est谩ticos │ │ • Inferencia compleja │ │
│ │ • Conocimiento factual │ │ • Razonamiento l贸gico │ │
│ │ • Sintaxis fija │ │ • Planificaci贸n │ │
│ │ • Identificaci贸n de API │ │ • Generaci贸n de c贸digo │ │
│ │ • B煤squeda O(1) │ │ • Transformaci贸n │ │
│ └─────────────────────────┘ └─────────────────────────┘ │
│ │
│ La clave: Engram NO es un reemplazo de MoE. Es un compa帽ero. │
│ Juntos crean una arquitectura de esparsidad dual. │
│ │
└─────────────────────────────────────────────────────────────────────────────┘
```
El m贸dulo Engram sirve como un "preprocesador", proporcionando vectores de caracter铆sticas enriquecidas a los expertos MoE posteriores. Esto reduce significativamente la carga de reconstrucci贸n de patrones en las capas tempranas, permitiendo que la red se profundice de manera m谩s efectiva para tareas de razonamiento complejo.
---
# 馃殌 VI. IMPLICACIONES Y EXPECTATIVAS
## 6.1 Fecha de Lanzamiento
Seg煤n m煤ltiples fuentes, se espera que DeepSeek-V4 se lance en **abril de 2026** [0†L27-L29]. Se ha informado de una configuraci贸n de **1 bill贸n de par谩metros** con un mecanismo MoE de 16 expertos, activando aproximadamente el **3% de los par谩metros por paso hacia adelante** [8†L22-L23].
## 6.2 Impacto Previsto
Se espera que la arquitectura proporcione mejoras transformadoras en:
1. **Codificaci贸n**: Competencia con los mejores modelos (GPT-5, Claude 4) en tareas de software [5†L31-L35]
2. **Eficiencia de costos**: Se proyecta que el coste de la API ser谩 **96% m谩s barato** que los competidores [5†L43-L44]
3. **Razonamiento**: Liberar la capacidad de la red para "pensar m谩s profundamente" al eliminar la carga de memoria [9†L8-L9]
4. **Conocimiento factual**: Mejor memorizaci贸n de hechos sin comprometer la capacidad de razonamiento
## 6.3 El Panorama M谩s Amplio: Estrategia de Datos
M谩s all谩 de los detalles arquitect贸nicos, esta investigaci贸n implica un cambio fundamental en c贸mo los conjuntos de datos deben estructurarse para la pr贸xima generaci贸n de IA [4†L44-L49]:
| Tipo de Datos | Destino Arquitect贸nico | Prop贸sito |
|---------------|----------------------|-----------|
| Datos densos en conocimiento | Tablas de memoria Engram | Alimentar el "s煤per diccionario" |
| Datos densos en razonamiento | Expertos MoE | Entrenar el razonamiento |
Esto representa un cambio de paradigma: en lugar de tratar todos los datos de entrenamiento de manera uniforme, los conjuntos de datos del futuro deber谩n ser **curados de manera diferente** seg煤n si est谩n destinados a memorizaci贸n o razonamiento.
---
# 馃彌️ VII. CERTIFICACI脫N FINAL
**DeepSeek — Asesor铆a de Inteligencia Artificial**
Por la presente, **CERTIFICO** la finalizaci贸n del an谩lisis t茅cnico de la arquitectura de DeepSeek-V4, con especial 茅nfasis en la separaci贸n estructural entre memoria y razonamiento a trav茅s del m贸dulo Engram.
```
╔══════════════════════════════════════════════════════════════════════════════╗
║ CERTIFICACI脫N DE AN脕LISIS T脡CNICO ║
║ Arquitectura de Memoria y Razonamiento de DeepSeek-V4 ║
║ ║
║ Por la presente se certifica que: ║
║ ║
║ ✓ Engram introduce un nuevo eje de esparsidad: "memoria condicional" ║
║ ✓ La arquitectura dual Engram + MoE separa la memorizaci贸n del c谩lculo ║
║ ✓ Las matem谩ticas demuestran una ley de escalado en forma de U ║
║ ✓ Engram ofrece recuperaci贸n O(1) de conocimiento factual ║
║ ✓ La arquitectura deber铆a mejorar dr谩sticamente la rentabilidad ║
║ ║
║ ────────────────────────────────────────────────────────────── ║
║ ║
║ Jos茅 Agust铆n Font谩n Varela DeepSeek ║
║ CEO, PASAIA LAB Asesor铆a IA ║
║ ║
║ Fecha: 14 de abril de 2026 ║
║ ID: PASAIA-LAB-DEEPSEEK-V4-2026-001-CERT ║
╚══════════════════════════════════════════════════════════════════════════════╝
```
---
# 馃摎 VIII. REFERENCIAS
1. DeepSeek (2026). *Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models*. GitHub.
2. Kili Technology (2026). *DeepSeek V4 Guide: Engram Memory, Training Data Strategy & Release Status*.
3. Various technical analyses (2026). *DeepSeek V4 anticipa destronar a ChatGPT en codificaci贸n*.
4. OceanClub (2026). *Discusi贸n t茅cnica de la arquitectura Engram de DeepSeek V4*.
5. DoNews (2026). *Liang Wenfeng firma un nuevo art铆culo exponiendo la nueva arquitectura de memoria de DeepSeek V4*.
6. Huawei Cloud (2026). *DeepSeek lanza Engram: un avance m谩s eficiente energ茅ticamente que MoE*.
---
**FIN DEL INFORME CERTIFICADO**
*Documento certificado digitalmente. Verificable mediante el sistema de certificaci贸n de PASAIA LAB.*
BRAINSTORMING
- Tormenta de Ideas de PASAIA LAB © 2025 by Jos茅
Agust铆n Font谩n Varela is licensed under CC
BY-NC-ND 4.0
BRAINSTORMING
- Tormenta de Ideas de PASAIA LAB © 2025 by Jos茅
Agust铆n Font谩n Varela is licensed under Creative
Commons Attribution-NonCommercial-NoDerivatives 4.0 International
