Такие уравнения обычно решаются возведением в квадрат. Чтобы не допустить ошибку в решении, необходимо проверить, что перед возведением в квадрат обе части имеют одинаковые знаки: левая часть уравнения неотрицательная, значит, правая тоже должна быть неотрицательной: x - 5 >= 0, откуда x >= 5. Таким образом, перед возведением в квадрат мы оговариваемся, что это уравнение будет иметь смысл при x >= 5.
Возводим в квадрат, получаем: -10x + 61 = (x - 5)2, откуда -10x + 61 = x2 - 10x + 25, затем x2 - 10x + 10x + 25 - 61 = 0 и, наконец, x2 - 36 = 0.
Решим это квадратное уравнение, получим корни: x1 = -6 и x2 = 6.
Можно увидеть, что первый корень не соответствует указанному выше ограничению - с ним в исходном уравнении результат вычисления корня получается отрицательным - потому остаётся единственный корень: x = 6, что и является ответом.
P.S. Мы не делали проверку выражения под корнем, то есть, чтобы -10x + 61 >= 0, потому что после возведения в квадрат оно становится равно неотрицательному выражению (квадрату x - 5, поэтому в этом случае ограничение будет выполнено само.