¿Dónde puedo leer más sobre la arquitectura de la interfaz de usuario y cómo se representan las GUI en la pantalla?

El campo específico que está buscando son los gráficos por computadora. Es un campo amplio y más complejo que el típico desarrollo de aplicaciones CRUD, pero no es ciencia espacial.

Podrías comenzar con un curso básico como este:

https://www.khanacademy.org/comp…

Se basa en JavaScript en lugar de Java, pero parece que contiene algunos de los conceptos básicos de cómo se manipulan los gráficos en una computadora.

Libros como este también podrían ayudar:

http://www.amazon.com/gp/aw/d/03…

Sé que dijiste que no solo hagas referencia a los documentos de control personalizados, pero hay un buen tutorial para vistas personalizadas en esta página:

https://developer.android.com/tr…

¿Has intentado seguir el tutorial de control personalizado en esa página? Las interfaces que describe son cruciales para comprender si desea o no descartarlas.

Otros temas relacionados incluyen el diseño de interfaz de usuario orientada a objetos y los patrones de diseño, específicamente el patrón de observador. Dejaré en Google las últimas referencias como ejercicio para el lector.

Buena suerte.