Programadores da área de informatica geralmente não se preocupam muito com isso, mas quem vem da área da eletrônica e da automação (como eu), já deve ter esbarrado algumas vezes em problemas gerados por gargalos de desempenho, principalmente em aplicações de tempo crítico.
Particularmente eu aprendi a programar na família 8051 de microcontroladores (sim eu sei, isso é uma velharia, mas foi o que me ensinaram na escola), pra quem nunca ouviu falar disso vou dar uma resumida: A família do 8051 são microcontroladores de 8 bits fabricados pela atmel, foram lançados lá em meados da década de 80!
Inclusive meu primeiro projetinho foi baseado num 89s52 que tinha incríveis 256 BYTES de Memoria RAM.
Já usei muito também série 12F de Pics da Microchip, especialmente o PIC 12F675 (microcontrolador que eu gosto muito), ele possui 64 Bytes de RAM, inclusive me lembro de usar um desses em um projeto em que eu precisava fazer um calculo de divisão para determinar a porcentagem do Duty Cicle de uma onda quadrada gerada por software e a Biblioteca "math" que o compilador importou pra fazer esse calculo exigia mais memoria do que o microcontrolador tinha disponível, alem disso o código não seria executado rápido o suficiente para atualizar o valor antes da interrupção acontecer, um completo desastre. rsrs