Приведем дроби к общему знаменателю, для этого первую дробь умножим на 9, а вторую на 16:
$$\frac{9(x^2+4xy) - 16(10xy-9y^2)}{144a^2} = \frac{9x^2 + 36xy - 160xy + 144y^2}{144a^2} = \frac{9x^2 - 124xy + 144y^2}{144a^2}$$Ответ: $$\frac{9x^2 - 124xy + 144y^2}{144a^2}$$