Cuando desarrolla un modelo para el aprendizaje automático, ¿este modelo permanece en el lado del cliente o del servidor? ¿Cuál es la mejor manera de crear un modelo? ¿Dónde debería quedarse?

Si el modelo resultante es lo suficientemente pequeño, se puede almacenar de forma segura en un dispositivo móvil. Y si la velocidad de inferencia es lo suficientemente rápida, entonces el modelo puede ejecutarse sin un uso excesivo de ancho de banda.

Si la complejidad espacial del modelo es muy grande (generalmente ocurre con modelos no paramétricos) o la complejidad de la inferencia es grande (requiere muchos cálculos para completar en un corto período de tiempo), entonces definitivamente es mejor que el modelo permanezca en el lado del servidor que tiene recursos adecuados y para enviar las respuestas al cliente.

Además, uno debería considerar si el algoritmo debe ser uno fuera de línea o en línea. En el aprendizaje en línea, el modelo se entrenará indefinidamente, lo que dará como resultado la actualización constante de sus parámetros (/ hipótesis si el modelo no es paramétrico). En tal caso, se podría enviar un clon del modelo al dispositivo, suponiendo un espacio satisfactorio y complejidades de inferencia.