Paso a aclararte las cosas despues de tantos comentarios que vi. Google usa una infraestructura doble, digital y analogica.
Basicamente tiene un set de racks de pcs destinadas a "rootear" las conexiones. Estas pcs (son muchas) aceptan als conexiones, analizan lo que pide el usuario y va al server correspondiente dode esta dicha info. El tema es que no solo en ese serfver esta tu web, si subis imagenes itenen servidores de imagenes a parte por ejemplo. Entonces este routeador lo que hace es analizar el pedido, consulta la BD al server y pide las imagenes que requiera la carga HTML al otro server. O sea que estas usando un minimo de 3 servers para mostrar tu sitio (imaginate lo que eso supone en potencia).
Al pied e esto, google como toda empresa con datacenter propio, genera el circuito de flujos "on demand". Que hace que cuando un server comppleto esta llegando al 80% de su limite, el rooteador activa el server contiguo a ese (no fisicamente sino de forma numerica), copia los datos (al estilo de loq ue hace un raid 10) y lo utiliza para seguir sirviendo el contenido. Pasa la conexion del routeador y balancea entre ambos. Si tenes 300000 visitas posiblemente active 3 o 4 servidores y ni notarias dicho trafico ya que no impact en el rendimiento del servidor.
Digamos que si entra menos gente, liberas servers hata llegar a 1, cuando empezas a pedir, dumpea los datos usandolos como espejo y divide la carga en 2...3....4..5.. y asi.
Obviamente que si usas 30 servidores de google para ofrecer esto, ahy algo raro. Nadie pensaria en estar en blogger cuando tiene un taringa digamos..... pero bueno, mas o menos`asi funciona a grandes razgos.
Las luces de los servers son de colores azul y rojo. Y va pasando por naranja y rojizo a medida que este carga o sube su load percent y por eso ven directamente por las camaras, la cantidad de servidores ocupados compeltamente en los racks de los datacenter y pueden saber su nivel de uso y demas sin siquira recurrir a la forma online de consultarlo desde su red interna. Esto ademas hace dar cuenta real de la capacidad que tenes y la demanda que hay en X momento para los tecnicos que esten ahi operando.
Digamos si abrimos "google play" veremos como se mpeizan a poner en rojo de a 2 o 3 a la vez por cada 10 o 15 segundos. Algo asi le paso a mega.co.nz soloq ue la infraestructura no era tal y colapso los ROUTEADORES no los servidores.