El lado oscuro del Hardware ⚡

Ponente: Francisco Muñoz (Paco)
Cargo: System Software Engineer en Intel
Fecha: 20 de julio de 2024
Duración: 60 min

Un fascinante viaje por los fundamentos del hardware moderno, desde los transistores hasta la IA, explorando la Ley de Moore, sus límites físicos y el futuro heterogéneo de los procesadores especializados.

hardwaresemiconductoresley de mooreinteligencia artificialNPU

El lado oscuro del Hardware ⚡

En la sexta y última charla de la temporada de Almería Tech, Francisco Muñoz (Paco), Software Engineer en Intel, presentó la ponencia “El lado oscuro del Hardware”. Paco, quien tiene un doctorado en Arquitectura Hardware para Inteligencia Artificial (IA), tuvo como objetivo divulgar conceptos fundamentales del hardware, un campo que, según él, es bastante desconocido en España fuera de los entornos universitarios.

Hardware vs. Software: La Danza de las Operaciones

Para Paco, el hardware no es solo la parte física del ordenador (la que “recibe las patadas”), sino la estructura que define las operaciones que se pueden realizar. El software, por su parte, es la secuencia de operaciones que el hardware ejecuta.

🏛️ Orígenes Históricos

La necesidad de la computación surgió históricamente durante la Segunda Guerra Mundial (años 40 y 50) para resolver cálculos matemáticos complejos. La solución llegó con la construcción de circuitos digitales a partir de:

  • Material semiconductor (silicio)
  • Transistores, que actúan como “interruptores”

🧠 ¿Qué es realmente una CPU?

Una CPU (Unidad Central de Procesamiento) es un circuito integrado que contiene múltiples operaciones (como sumas, restas, multiplicación).

Cómo funciona:

  • Un cable de entrada indica la operación que se va a ejecutar en un momento dado
  • El software de alto nivel se transforma, mediante un compilador, en un binario (una secuencia de ceros y unos) que la máquina entiende
  • Ejecuta operación por operación a la velocidad marcada por el cable de reloj (la frecuencia del procesador)

💡 Analogía clave: El procesador funciona como una librería, y el conjunto de operaciones que puede hacer es su API.

Los Tres Ángulos del Diseño de Hardware

El diseño de un procesador se basa en tres pilares fundamentales:

1. 🎯 Selección de Operaciones

Se define qué operaciones incluirá el chip en función de:

  • Objetivo del producto (propósito general o específico)
  • Espacio que ocupará (área del chip)
  • Requerimientos de energía

📚 Dato importante: El conjunto de operaciones de los procesadores de propósito general más comunes (desde 1986) se conoce como x86.

2. 🏗️ Organización de Operaciones

Una vez seleccionadas las operaciones, los diseñadores deben organizar los transistores de manera eficiente dentro del área del chip para que las operaciones funcionen correctamente.

3. 🔬 Reducción del Tamaño del Transistor

La reducción del tamaño de estos interruptores es clave, ya que define:

  • Cuántas operaciones caben
  • Con qué eficiencia pueden trabajar

Este ángulo se relaciona directamente con la Ley de Moore, una ley empírica que predecía que el rendimiento (o la cantidad de transistores) se duplicaría cada dos años aproximadamente.

La Llegada del Límite Físico (El Lado Oscuro)

La evolución del hardware está ligada al cumplimiento de la Ley de Moore. En los años 80, con el surgimiento del PC de propósito general, la clave se centró en la velocidad de ejecución.

🔥 El Gran Problema: 2005

El gran problema llegó alrededor del año 2005: los chips comenzaron a quemarse literalmente.

¿Por qué?

  • Se había explotado demasiado el incremento de la frecuencia del procesador (el cable de reloj)
  • Se llegó a un límite físico de sobrecalentamiento

💡 La Solución: Duplicación

La solución a este problema, que permitió a la industria seguir cumpliendo la Ley de Moore, fue la duplicación:

  • Gracias a la continua reducción del tamaño de los transistores
  • En lugar de aumentar la velocidad (lo que quemaba el chip), se empezó a meter múltiples procesadores (cores) en la misma área

La Era de la Inteligencia Artificial y la NPU

Alrededor de 2017, la IA y las aplicaciones de Deep Learning requirieron potencia de cómputo en tiempo real, lo cual los chips tradicionales no podían ofrecer de forma eficiente.

Además, la Ley de Moore se acerca a su límite: el tamaño del transistor pronto no podrá reducirse más.

🚀 El Cambio de Paradigma

Esto obligó a cambiar el paradigma y diseñar hardware completamente nuevo:

⚡ Aceleración y Simplificación

Se identificó que la mayoría de las operaciones en los programas de IA son multiplicaciones y sumas masivas (cálculos matriciales).

🧠 NPU (Neural Processing Unit)

Se creó el NPU, un chip que:

  • Elimina la “morralla” de operaciones innecesarias
  • Se llena de bloques dedicados exclusivamente a multiplicación y suma
  • Los interconecta para un flujo de datos más rápido

💻 AI PC

El modelo actual de PC de IA (AI PC) combina:

  • La CPU tradicional
  • Esta NPU en el mismo chip

Beneficios:

  • Ejecuciones de IA más eficientes y locales
  • Mejora la privacidad
  • Mejor tiempo de respuesta

El Futuro Heterogéneo y la Competición Industrial

🔮 Predicción de Paco

Paco predice que el futuro del hardware será cada vez más heterogéneo. En lugar de un procesador todopoderoso, veremos:

  • Múltiples chips dedicados a dominios específicos
  • Por ejemplo: un chip para reconocimiento de imagen y otro para procesamiento natural de lenguaje (tipo ChatGPT)
  • Todo en la misma placa

🏁 La Carrera de la IA

🥇 Nvidia: El Líder Actual

Nvidia tomó la delantera en la IA. Esto se debe principalmente a que:

  • Su software CUDA (utilizado para programar sus GPUs en cálculos científicos) ya estaba muy establecido
  • Podía adaptarse rápidamente a las necesidades de cálculo matricial de la IA
  • Esta comunidad de software ya existente le dio una ventaja masiva

🏃‍♂️ La Persecución

Tanto Intel como AMD están ahora en la carrera para:

  • Crear sus propias soluciones
  • Desarrollar comunidades de software que compitan

🏭 El Oligopolio de la Fabricación

Sobre la fabricación, esta sigue siendo dominada por pocas empresas:

  • TSMC (Taiwán)
  • Intel (Estados Unidos)
  • Principalmente en Asia y Estados Unidos

⚠️ Desafío: La fabricación de chips es compleja y requiere mucha investigación, lo que dificulta que nuevos actores entren en el mercado.

Conclusión: Más Allá del Código

La charla de Paco nos recordó que detrás de cada línea de código hay una compleja infraestructura de hardware que evoluciona constantemente. Desde los primeros transistores hasta las NPUs especializadas en IA, el hardware ha tenido que reinventarse para superar límites físicos y satisfacer las demandas computacionales del futuro.

🔑 Lecciones Clave:

  • El hardware define las posibilidades del software
  • La Ley de Moore ha sido el motor de la evolución, pero tiene límites físicos
  • El futuro es heterogéneo y especializado
  • La competición en software (como CUDA) puede ser tan importante como el hardware
  • España necesita más divulgación en estos temas fundamentales

🌟 Reflexión final: Entender el “lado oscuro” del hardware nos ayuda a ser mejores desarrolladores, ya que comprendemos las limitaciones y posibilidades de las máquinas que ejecutan nuestro código. En la era de la IA, este conocimiento se vuelve aún más crucial.