Т.к. угол B = 90°, то треугольник ABC - прямоугольный. Вектор AB - BC = AC. Тогда |AB - BC| = |AC|. По теореме Пифагора:
$$AC = \sqrt{AB^2 + BC^2} = \sqrt{5^2 + 12^2} = \sqrt{25 + 144} = \sqrt{169} = 13$$Ответ: |AB - BC| = 13
|AB| - |BC| = 5 - 12 = -7
Ответ: |AB| - |BC| = -7