Краткое пояснение: Сравниваем числа, учитывая их разряды.
В первом случае у нас есть число 5* и число 8. Независимо от того, какие цифры стоят вместо звездочек, число 8 всегда будет больше, чем любое число, начинающееся с 5. Поэтому 5* < 8.
Во втором случае у нас есть число *9 и число *. Даже если вместо первой звездочки в числе *9 будет стоять самая большая цифра (9), все равно любое трехзначное число (*) будет больше, чем 99. Поэтому *9 > *.