Lab CUDA — Simulador GPU sin placa física

Para qué es este lab: aprender a programar para GPUs sin tener una placa NVIDIA. Empaquetamos un simulador de GPU en Docker que corre en cualquier laptop. Es la base para el TP4 y, especialmente, el TP Integrador (minero blockchain con CUDA).

¿Qué es este lab y por qué existe?

Para correr código CUDA tradicionalmente necesitan una placa de video NVIDIA. No todos la tienen, y el cluster Kubernetes con GPUs físicas para la cátedra todavía no está disponible. Este lab resuelve el problema usando un simulador.

El simulador: GPGPU-Sim

GPGPU-Sim es un simulador cycle-accurate de GPUs NVIDIA desarrollado en la University of British Columbia. Es el simulador que se usa en investigación de arquitectura de GPUs hace más de 15 años (citado en cientos de papers).

Usamos la versión 4.2.1 (febrero 2025), la más reciente. Soporta arquitecturas modernas: Volta (Tesla V100), Turing (RTX 2060), Pascal (Titan X). Por defecto simulamos una Tesla V100, una GPU de gama alta de 2017 con Tensor Cores.

Qué hace exactamente

Ustedes escriben código CUDA normal en .cu, lo compilan con nvcc, y al ejecutar el binario el simulador intercepta cada llamada a la API CUDA y las ejecuta sobre una GPU virtual ciclo a ciclo.

A cambio reciben métricas detalladas que en una GPU real están escondidas detrás del driver:

• Ciclos totales y instrucciones por ciclo (IPC)
• Ocupancia de los SMs (Streaming Multiprocessors)
• Hits y misses de cache L1/L2 con tasas exactas
• Cantidad de loads/stores a memoria global
• Divergencia de warps en cada kernel

Limitación importante: el simulador es lento. Un kernel que en GPU real tarda 1ms acá puede tardar varios minutos. Por eso los ejercicios usan tamaños chicos (N=1024). No es para entrenar redes ni procesar datasets grandes — es para aprender CUDA y entender la arquitectura GPU.

El segundo simulador: Accel-Sim

Además de GPGPU-Sim, este lab incluye Accel-Sim 1.3.0 (febrero 2025), desarrollado por el mismo grupo de investigación (Khairy, Shen, Aamodt y Rogers, Purdue + UBC). Accel-Sim es la evolución moderna de GPGPU-Sim y fue presentado en el paper de referencia:

Khairy, M., Shen, Z., Aamodt, T. M., & Rogers, T. G. (2020). Accel-Sim: An Extensible Simulation Framework for Validated GPU Modeling. En 47th ACM/IEEE International Symposium on Computer Architecture (ISCA 2020), Valencia, España, pp. 473–486. PDF · Sitio oficial · Repo

En qué se diferencia de GPGPU-Sim

Por qué incluimos los dos

Pedagógicamente cada uno aporta algo distinto:

• GPGPU-Sim los obliga a pensar en CUDA: escriben el kernel, eligen el grid, debuggean la lógica paralela. Es donde aprenden a programar GPU.
• Accel-Sim los expone al flujo profesional moderno: trazas reales, arquitecturas nuevas, simulación rápida. Es donde aprenden a evaluar decisiones arquitectónicas como en la industria.

El ejercicio 05 simula el mismo vectoradd que el ejercicio 01 pero por el camino trace-driven. Comparar las métricas de ambos contra la misma V100 es el cierre conceptual del lab.

Imagen Docker oficial

Para Accel-Sim no compilamos nada: usamos directamente la imagen oficial del proyecto (CUDA 12.8 + Ubuntu 24.04):

ghcr.io/accel-sim/accel-sim-framework:ubuntu-24.04-cuda-12.8

Está declarada como segundo servicio en docker-compose.yml. Pull una sola vez y andan.

¿Por qué es pedagógicamente superior a una GPU real?

Repositorio del lab

Todo el código vive acá:

👉 github.com/dpetrocelli/cuda-sim

El repo se publica con el commit inicial. Si recién están entrando, hagan git clone y arranquen.

Estructura

cuda-sim/
├── Dockerfile              ← Imagen con GPGPU-Sim 4.2.1 + CUDA 11.7
├── docker-compose.yml      ← Servicio listo (un comando y andan)
├── docs/GUIA.md            ← Guía completa del estudiante
├── examples/
│   ├── 01-vector-add/      ← RESUELTO. Léanlo de referencia.
│   ├── 02-saxpy/           ← A COMPLETAR.
│   ├── 03-matrix-mul/      ← A COMPLETAR.
│   └── 04-reduction/       ← A COMPLETAR.
└── README.md

Setup

Requisitos

• Docker + Docker Compose instalado (cualquier OS).
• ~3 GB de disco libre.
• Conexión la primera vez (descarga la imagen base de NVIDIA).

Primera vez

git clone https://github.com/dpetrocelli/cuda-sim.git
cd cuda-sim
docker compose build

El build tarda 10–15 minutos la primera vez porque compila GPGPU-Sim desde fuente. Una vez hecho queda en caché.

Día a día

docker compose run --rm cuda-sim
# Adentro del container:
cd 01-vector-add
make run

make run compila con nvcc, copia la config de la GPU simulada, y ejecuta el binario. La simulación arranca y al final imprime las métricas.

Los 5 ejercicios

Los ejercicios 01–04 usan GPGPU-Sim (execution-driven: escriben el .cu, el simulador intercepta cada llamada CUDA). El ejercicio 05 usa Accel-Sim (trace-driven: NVIDIA NVBit grabó la ejecución sobre una GPU real, el simulador consume esa traza). Mismo kernel, dos simuladores — comparen.

Cada ejercicio tiene su CONSIGNA.md con:

• Objetivos pedagógicos
• Pasos a seguir
• Tabla de métricas que tienen que reportar
• Pistas para no quedarse trabados
• Bibliografía sugerida

Progresión pedagógica

Los ejercicios están diseñados para ir agregando un concepto nuevo cada vez:

1. 01 → 02: del kernel más simple posible a uno con más operaciones por thread.
2. 02 → 03: del indexado 1D al 2D, y aparece el costo del patrón de acceso a memoria (coalescing).
3. 03 → 04: aparece la shared memory y la sincronización entre threads de un mismo bloque. Es el ejercicio más difícil — pero también el que les abre la puerta al resto del mundo CUDA.

Cómo se entrega cada ejercicio

Para cada ejercicio resuelto:

• El .cu completo y funcionando en su repo del grupo.
• Un RESULTADOS.md con:
  • Tabla de métricas extraídas del log de GPGPU-Sim.
  • Capturas de pantalla del log como evidencia.
  • Análisis: por qué ven esos números mirando el código.
• Comparación con el ejercicio anterior (¿más ciclos? ¿peor IPC? ¿por qué?).

La guía completa con detalles de cómo interpretar el log está en docs/GUIA.md del repo.

Tercer entorno: GPU real en el cluster K3s

Después de los dos simuladores, la cátedra pone a disposición un cluster K3s con GPUs NVIDIA físicas para que ejecuten sus kernels en hardware real y comparen métricas contra los simuladores.

El cluster es infraestructura transversal de la materia (lo usan TP3, Lab CUDA y el TP Integrador), por lo que la documentación de acceso, reglas y patrones de uso vive en su propia página:

👉 Cluster K3s con GPU — guía de acceso y uso

Para los ejercicios 01–05 de este lab, una vez que están dentro del cluster, recuerden incluir en el informe la tabla comparativa de 3 columnas (GPGPU-Sim · Accel-Sim · GPU real). Está documentada en la página del cluster.

Relación con el resto de la cursada

Este lab no es un TP independiente — es infraestructura compartida:

• TP 4 (Programación Paralela): el TP4 trabaja con shaders en WebGL, que son conceptualmente el primer paso. Este lab es el segundo: del SIMD gráfico al GPGPU (General Purpose GPU computing) con CUDA.
• TP Integrador (Blockchain + CUDA): el integrador les pide implementar un minero blockchain con CUDA. Los 4 ejercicios de este lab son la preparación directa para ese TP — sin haber hecho los 4 no van a saber cómo escribir un minero eficiente.

Recursos

Lectura obligatoria

• Kirk, D. B., & Hwu, W. W. (2016). Programming Massively Parallel Processors: A Hands-on Approach (3ra ed.). Morgan Kaufmann. El libro de cabecera de CUDA.
• Harris, M. Optimizing Parallel Reduction in CUDA (NVIDIA whitepaper). Muestra 7 versiones progresivamente optimizadas del kernel del ejercicio 04. Lectura obligatoria antes de hacer el 04.

Papers académicos de los simuladores

• Bakhoda, A., Yuan, G. L., Fung, W. W. L., Wong, H., & Aamodt, T. M. (2009). Analyzing CUDA Workloads Using a Detailed GPU Simulator. En IEEE International Symposium on Performance Analysis of Systems and Software (ISPASS 2009), pp. 163–174. — Paper original de GPGPU-Sim (ejercicios 01–04). IEEE Xplore
• Khairy, M., Shen, Z., Aamodt, T. M., & Rogers, T. G. (2020). Accel-Sim: An Extensible Simulation Framework for Validated GPU Modeling. En 47th ACM/IEEE International Symposium on Computer Architecture (ISCA 2020), Valencia, España, pp. 473–486. — Paper de referencia de Accel-Sim (ejercicio 05). PDF

Documentación oficial

• Manual de GPGPU-Sim
• Repo GPGPU-Sim
• Sitio de Accel-Sim
• Repo de Accel-Sim
• CUDA C Programming Guide
• NVIDIA NVBit — el tracer que captura las trazas SASS que consume Accel-Sim.

Comunidad

• Stack Overflow tag cuda
• NVIDIA Developer Forum

Troubleshooting rápido

Buena suerte 🚀