Пусть пятирублёвых монет — \(x\), а десятирублёвых — \(y\).
Составим математическую модель:
\[\begin{cases}x+y=26,\\5x+10y=170.\end{cases}\]
Из первого уравнения \(x=26-y\). Подставим во второе:
\[5(26-y)+10y=170;\]
\[130-5y+10y=170;\]
\[5y=40;\quad y=8.\]
Тогда \(x=26-8=18\).
Проверка: \(18\cdot5+8\cdot10=90+80=170\) рублей.
Ответ: 18 пятирублёвых и 8 десятирублёвых монет.