Ответ:

Разложим числитель и знаменатель на множители:

\(x^2-13x+40=(x-5)(x-8)\),

\(x^2-25=(x-5)(x+5)\).

При \(x\ne5\) сократим общий множитель \((x-5)\):

\(\frac{(x-5)(x-8)}{(x-5)(x+5)}=\frac{x-8}{x+5}\).

Область допустимых значений исходной дроби: \(x\ne5\), \(x\ne-5\).

Ответ: \(\frac{x-8}{x+5}\), \(x\ne\pm5\).