Respuesta: 676

Solución:

Si $f$ tiene grado $m$ y coeficiente principal $a,$ los coeficientes principales de los dos lados de $f(x)f(2x^2) = f(2x^3 + x)$ son $a^2 2^m$ y $a 2^m,$ así que $a = 1.$ La ecuación también muestra que siempre que $\lambda$ es una raíz, $2\lambda^3 + \lambda$ también es una raíz.

Si alguna raíz tuviera $|\lambda| \gt 1,$ entonces $|2\lambda^3 + \lambda| \ge 2|\lambda|^3 - |\lambda| \gt |\lambda|,$ e iterando se producirían infinitas raíces distintas, lo cual es imposible. Como $f$ es mónico con $f(0) = 1,$ el producto de las raíces tiene módulo $1,$ así que ninguna raíz puede tener módulo menor que $1$ tampoco: toda raíz satisface $|\lambda| = 1.$ Entonces $2\lambda^3 + \lambda$ también debe tener módulo $1,$ así que $|2\lambda^2 + 1| = 1.$ Escribiendo $\lambda^2 = \cos\theta + i\sin\theta,$ obtenemos $(2\cos\theta + 1)^2 + 4\sin^2\theta = 1,$ que se simplifica a $\cos\theta = -1,$ así que $\lambda^2 = -1.$

Así, toda raíz es $\pm i,$ y los coeficientes reales las emparejan: $f(x) = (x^2 + 1)^n.$ La condición $f(2) + f(3) = 5^n + 10^n = 125$ da $n = 2,$ así que $f(5) = 26^2 = 676.$