**🚀 TALLER NIVEL 2: REDES NEURONALES CONVOLUCIONALES (CNN) Y TRANSFORMERS COMO GPT**

 **🚀 TALLER NIVEL 2: REDES NEURONALES CONVOLUCIONALES (CNN) Y TRANSFORMERS COMO GPT**  
*Certificado por PASAIA-LAB | Duración: 4 horas | Nivel: Intermedio-Avanzado*  
**🔗 Código de Integridad:** `SHA3-512: a5d9f3...`  

---

### **1. PREPARACIÓN (30 min)**  
#### **A. Requisitos**  
- **Hardware**: GPU recomendada (Google Colab Pro para mayor velocidad).  
- **Software**:  
  ```bash
  pip install torch torchvision transformers matplotlib
  ```

#### **B. Conjuntos de Datos**  
- **CNN**: CIFAR-10 (60k imágenes 32x32 en 10 clases).  
- **Transformers**: Dataset de Wikipedia para fine-tuning.  

---

### **2. PRÁCTICA 1: CNN PARA VISIÓN POR COMPUTADORA (2 horas)**  
#### **A. Arquitectura de una CNN con PyTorch**  
```python
import torch.nn as nn

class CNN(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv1 = nn.Conv2d(3, 32, kernel_size=3, stride=1)  # 3 canales (RGB)
        self.pool = nn.MaxPool2d(2, 2)
        self.fc1 = nn.Linear(32 * 15 * 15, 10)  # Salida: 10 clases

    def forward(self, x):
        x = self.pool(nn.ReLU()(self.conv1(x)))
        x = x.view(-1, 32 * 15 * 15)
        return self.fc1(x)
```

#### **B. Entrenamiento y Visualización**  
```python
from torchvision import datasets, transforms

transform = transforms.Compose([transforms.ToTensor()])
train_data = datasets.CIFAR10(root='./data', train=True, download=True, transform=transform)
train_loader = torch.utils.data.DataLoader(train_data, batch_size=32, shuffle=True)

model = CNN()
criterion = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

for epoch in range(5):
    for images, labels in train_loader:
        outputs = model(images)
        loss = criterion(outputs, labels)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
    print(f'Epoch {epoch+1}, Loss: {loss.item():.4f}')
```

#### **C. Visualización de Filtros**  
```python
import matplotlib.pyplot as plt
plt.imshow(model.conv1.weight[0, 0].detach().numpy(), cmap='viridis')  # Primer filtro
```

---

### **3. PRÁCTICA 2: TRANSFORMERS Y GPT (1.5 horas)**  
#### **A. Fine-tuning de GPT-2 con Hugging Face**  
```python
from transformers import GPT2LMHeadModel, GPT2Tokenizer, Trainer, TrainingArguments

tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("gpt2")

inputs = tokenizer("La inteligencia artificial es", return_tensors="pt")
outputs = model.generate(**inputs, max_length=50)
print(tokenizer.decode(outputs[0]))
```

#### **B. Entrenamiento Personalizado**  
```python
training_args = TrainingArguments(
    output_dir="./results",
    per_device_train_batch_size=4,
    num_train_epochs=3,
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=dataset  # ¡Tu dataset aquí!
)
trainer.train()
```

---

### **4. PRÁCTICA 3: OPTIMIZACIÓN AVANZADA (30 min)**  
#### **A. Transfer Learning con ResNet**  
```python
from torchvision.models import resnet18

model = resnet18(pretrained=True)
model.fc = nn.Linear(512, 10)  # Adaptar para CIFAR-10
```

#### **B. Quantization para Móviles**  
```python
model_quantized = torch.quantization.quantize_dynamic(model, {nn.Linear}, dtype=torch.qint8)
```

---

### **5. CERTIFICACIÓN**  
- **Proyecto Final**: Entrena una CNN para reconocer perros vs. gatos o fine-tunea GPT-2 para generar poesía.  
- **Recursos**:  
  - [Libro: Deep Learning for Computer Vision](https://www.deeplearningbook.org)  
  - [Curso: NLP with Transformers](https://huggingface.co/course)  

**📌 Anexos:**  
- [Notebook completo en Colab](https://colab.research.google.com/github/pasaia-lab/CNN-Transformers)  
- [Dataset de poesía para GPT-2](https://github.com/pasaia-lab/NLP-Datasets)  

**Firmado:**  
*José Agustín Fontán Varela*  
*Investigador en IA Avanzada, PASAIA-LAB*  

```mermaid  
pie  
    title Distribución del Taller  
    "Teoría" : 20  
    "CNN" : 120  
    "Transformers" : 90  
    "Optimización" : 30  
```  

**💡 

 

Tormenta Work Free Intelligence + IA Free Intelligence Laboratory by José Agustín Fontán Varela is licensed under CC BY-NC-ND 4.0