Sin duda, utilizan una serie de trucos para que las cosas vayan más rápido. IIRC, Prisma no ha publicado los detalles de su implementación, pero Facebook ha publicado muchos detalles de su implementación de transferencia de estilo, por lo que podemos suponer que son bastante similares. Aquí hay una lista de trucos que recuerdo:
- Usando Caffe2, que es liviano y más rápido que TF, especialmente en dispositivos móviles. Prisma, sin duda, utiliza alguna biblioteca ligera similar, tal vez incluso específicamente para la transferencia de estilos.
- Utiliza una red más rápida. Definitivamente hay redes más rápidas que las que se usan en el documento, especialmente para “inferencia”.
- Facebook utiliza un truco en el que tienen una red de “baja calidad” que rápidamente transfiere el estilo en el dispositivo de borde como una especie de vista previa, pero luego realiza una transferencia de estilo completa y de alta calidad en los servidores en la nube. Es muy probable que Prisma haga algo como esto también.