Agoniza la Ley de Moore… ¿Podrá la IA salvarla?

La Ley de Moore, una de las leyes fundamentales que indica el progreso exponencial en la industria tecnológica, especialmente la ingeniería electrónica, se ha desacelerado últimamente (desde 2005, para ser más precisos), y ha llevado a muchos en este sector a creer que esta ley ya no consideramos verdaderos. ¡Eso fue hasta que la Inteligencia Artificial se unió a la arena! Desde entonces, el juego cambió y la ley de Moore se está reviviendo lentamente.

Veamos cómo la Inteligencia Artificial desafía la tendencia…

¿Qué es la ley de Moore?

Gordon Moore, uno de los cofundadores de Intel, notó en 1965 que el número de transistores por pulgada cuadrada en circuitos integrados se había duplicado anualmente, mientras que, a casi la misma velocidad, los costos se redujeron a la mitad. Por lo tanto, predijo que esta tendencia continuaría en el futuro previsible.

Lo sé, algunos pensarán "¿Eso es todo? Bueno, ¿qué tal si noto que está lloviendo y hago mi propia ley diciendo que va a llover todos los años?". Pero la ley de Moore no es solo una suposición vaga: también está de acuerdo con una regla de escala de tecnología llamada Dennard Scaling que establece que "a medida que los transistores se reducen de tamaño, su densidad de potencia permanece constante". Erm … ¿qué? Bien, traducido al lenguaje de todos, esto significa: El número de transistores por unidad de área aumentará. El requerimiento de energía por unidad de área de chip (que ahora tiene más transistores) permanecerá constante, mientras que el voltaje y la corriente se reducirán con la longitud. Y las predicciones se hicieron realidad: ¡la industria electrónica ha estado en auge!

Los transistores no solo se han vuelto más pequeños, sino también más rápidos y más eficientes energéticamente, de modo que un chip ahora ofrece al menos el doble de rendimiento con aproximadamente el mismo dólar y presupuestos de potencia.

La ley de Moore era cierta … hasta que no lo fue.
¿Por qué está muriendo la Ley de Moore?

Como Chien-Ping Lu de NovuMind Inc lo puso de manera tan concisa en su trabajo.

"El punto de inflexión ocurrió en 2005, cuando los transistores, aunque continuaron duplicándose en número, no eran ni más rápidos ni más eficientes energéticamente a las mismas velocidades que antes."

Aquí está el por qué: ha sido este siglo XXIcuando la industria electrónica trataba de llevar la tecnología a la gente. Las empresas prosperaron; Samsung y Qualcomm fueron ejemplos de teléfonos móviles y procesadores, respectivamente. ¡Pero hoy en día, los competidores en la industria tecnológica son muy reales! Como tal, el hardware proporcionado por una empresa tenía que llevar su legado: tenía que cumplir con las especificaciones, ofrecer una mejor experiencia de usuario con cada nueva versión y, por lo tanto, no podía modificarse agresivamente para ahorrar energía.

Hubo un colapso del aspecto de escala de Dennard, por lo que desde entonces ha habido una desviación de la tendencia de la ley de Moore.
… Ingreso de la Inteligencia Artificial y cómo soluciona la situación.

Cómo A.I. está renovando la Ley de Moore

Todos sabemos cómo los medios de comunicación y la industria del cine están exagerando la inteligencia artificial con androides y sistemas demasiado inteligentes. Algunos pioneros de la informática, Alan Turing (es posible que quiera ver "The Imitation Game" para apreciar la leyenda que es) a la vanguardia, se pusieron en marcha proyectos con miras a hacer que las máquinas piensen. Turing, sin embargo, se dió cuenta de que esto sería abismalmente difícil, y en 1950 propuso:

"En lugar de tratar de producir un programa para simular la mente adulta, ¿por qué no tratar de producir uno que simule el del niño? Si esto se sometiera a un curso de educación apropiado, se obtendría el cerebro adulto."

Esta idea creció hasta convertirse en Deep Learning. Salto en el tiempo hasta 2018: tenemos y seguimos reuniendo grandes cantidades de datos. Tenemos y seguimos desarrollando algoritmos cada vez más avanzados (las redes adversas generativas y las redes de cápsulas son ejemplos sólidos). ¿Pero tenemos el hardware para analizar todos esos cálculos en un tiempo razonable? Y si lo hacemos, ¿se puede hacer sin que todas esas GPU causen otro calentamiento global por sí mismas al calentarse literalmente de todo el procesamiento? (El diagrama de azeem explica esta tendencia perfectamente en este artículo).

Ahí mismo, la Inteligencia Artificial está imponiendo una restricción: mantener el poder constante o disminuirlo, pero aumentar el rendimiento … ¿no suena un poco familiar para alguna regla de escala que acabamos de ver? íExacto!… Al obligar a la industria tecnológica a crear nuevos procesadores que puedan realizar más cálculos por unidad de tiempo, manteniendo el consumo de energía y el precio, ¡la Inteligencia Artificial está imponiendo Dennard Scaling nuevamente y, por lo tanto, obliga a la Ley de Moore a volver a la vida!

(*) El artículo original, adaptado aquí, fue escrito por Hans A. Gunnoo, un científico de datos, que comenzó su carrera en ingeniería electrónica y luego se especializó en aprendizaje automático. También hace contribuciones a proyectos de IA de código abierto y blogs sobre las últimas tendencias en el campo de la ciencia de datos en su tiempo libre.
Si le gustó este artículo, dele un aplauso para que otros también puedan encontrarlo. Siempre es bueno ayudarse mutuamente en la comunidad de ciencia de datos 🙂

Fuente: Hans A. Gunnoo (*) – towardsdatascience.com