¿Qué tipo de arquitectura necesita una aplicación web o servidor para manejar una carga constante de 100 millones de transacciones por segundo?

Defina qué es una transacción.

De todos modos, suponiendo comunicaciones de red, en un solo sistema, si una transacción recibe un solo paquete de red y envía un único paquete de red, entonces, suponiendo un tamaño de paquete de 1kbyte, viene 100Gbytes / seg entrante y 100Gbytes / seg saliente.

Estamos hablando aproximadamente de 1 Terabit / seg en ambas direcciones.

Recientemente, se han puesto a disposición tarjetas de interfaz de red de servidor de hasta 40 Gbit / seg. Pero todavía estamos lejos de la solicitud.

Por supuesto, la situación es completamente diferente si puede dividir las cargas en cientos de miles de servidores, como lo está haciendo Google. Supongo que el ancho de banda de red agregado de todos los servidores de Google probablemente sea superior a 1 Terabit / seg.

EDITAR: Supongamos que podemos dividir la carga en muchos servidores diferentes, ubicados en diferentes ubicaciones, y que cada uno de ellos tiene un acceso a Internet dedicado de 100Mbit / seg (es una situación muy ideal).

Supongamos que puede equilibrar las solicitudes entrantes de clientes distribuidos distribuidos por todo Internet y que no necesita ninguna comunicación de servidor a servidor para procesar una transacción solicitada por el cliente.

Todas las suposiciones anteriores en pie, en este escenario necesitaría 1e12 / 1e8 = 1e4 = 10,000 servidores físicos.
Puede asumir el 5% de la capacidad adicional para enfrentar fallas de hardware y mantenimiento programado del hardware, por lo que se trata de otros 500 servidores.

Digamos que ahora necesitamos ubicar estas máquinas en muchos centros de datos, repartidos por todo el mundo. Digamos que en cada centro de datos puede comprar un ancho de banda de Internet dedicado de 1 gbit / s: esto significa 1000 centros de datos, cada uno con aproximadamente 10 servidores.

Supongamos que los servidores son 2 unidades de bastidor cada una con 2 cpu, totalmente redundantes, almacenamiento en disco interno: 8000 € cada uno, más 2 conmutadores (4000 €) 2 dispositivo de firewall (8000 €) y un gabinete de bastidor (1500 €) más algunas herramientas .
Resume hasta unos 100.000 € por sitio. la potencia requerida sería de alrededor de 6kW de potencia neta más otros quizás 2kW para enfriamiento y ups. 8kW son unos 10.000 € de potencia por año (.15 € por kWh). Los costos de ancho de banda de Internet se pueden estimar en unos 100.000 € / año / gigabit (pero esta cifra debe evaluarse mejor).

Suponiendo inversiones de 3 años, necesita alrededor de 150k € por sitio por año.
Para 1000 sitios, esto significa un costo de funcionamiento de infraestructura de aproximadamente 150 millones de euros por año.
Esto sin ninguna capacidad adicional con respecto a los requisitos de ancho de banda (el servidor probablemente podría administrar bien 3 veces el ancho de banda mínimo).

Luego deberá agregar costos de configuración, costos de mantenimiento, costos de software, licencias, etc.

@mgua