Respuesta: 40

Pista pequeña:

Multiplique las dos ecuaciones: los términos cruzados se convierten en las constantes $12\mathrm{i}$ y $20\mathrm{i},$ dejando una ecuación en la única incógnita $zw$.

Pista grande:

La ecuación cuadrática en $zw$ requiere $\sqrt{416 - 210\mathrm{i}};$ hállela planteando $(a + b\mathrm{i})^2 = 416 - 210\mathrm{i}$ con enteros $a$ y $b$.

Solución:

Multiplicando las dos ecuaciones se obtiene $$\begin{aligned} &zw + 12\mathrm{i} + 20\mathrm{i} \\ &\quad {}- \frac{240}{zw} = (5 + \mathrm{i})(-4 + 10\mathrm{i}) \\ &\quad = -30 + 46\mathrm{i}, \end{aligned}$$ así que $zw - \frac{240}{zw} = -30 + 14\mathrm{i}.$ Haciendo $v = zw$ resulta $v^2 + (30 - 14\mathrm{i})v - 240 = 0.$

Por la fórmula cuadrática, $v = -15 + 7\mathrm{i}$ $\pm \sqrt{(15 - 7\mathrm{i})^2 + 240}$ $= -15 + 7\mathrm{i}$ $\pm \sqrt{416 - 210\mathrm{i}}.$ Escribir $(a + b\mathrm{i})^2 = 416 - 210\mathrm{i}$ exige $a^2 - b^2 = 416$ y $ab = -105,$ lo que da $a + b\mathrm{i} = \pm(21 - 5\mathrm{i}).$ Por lo tanto $v = 6 + 2\mathrm{i}$ o $v = -36 + 12\mathrm{i},$ con $|v|^2 = 40$ o $1440.$

El menor valor se alcanza: $z = 1 - \mathrm{i},$ $w = 2 + 4\mathrm{i}$ satisface ambas ecuaciones con $zw = 6 + 2\mathrm{i}.$ Así que el menor valor posible de $|zw|^2$ es $40.$