При решение любого уравнения с модулем его приходиться решать дважды: в случае когда подмодульное выражение (в данном примере это "x + 11") больше или равно нулю, тогда весь модуль надо раскрывать со знаком "+" и когда оно меньше нуля, тогда весь модуль надо раскрывать со знаком "-".
Рассмотрим первый случай: x + 11 ≥ 0, откуда x ≥ -11. Теперь можно раскрыть модуль: x² - 5x - 16 = x + 11, далее: x² - 5x - 16 - x - 11 = 0, после чего: x² - 6x - 27 = 0. Теперь можно решить это квадратное уравнение (например, через дискриминант) и вычислить оба корня этого уравнения: x₁ = -3, x₂ = 9. Можно увидеть, что корень x₁ = -3 соответствует условию x ≥ -11, таким образом он является решением данного уравнения, при этом корень x₂ = 9 тоже соответствует условию x ≥ -11, таким образом он тоже является решением данного уравнения.
Рассмотрим второй случай: x + 11 < 0, откуда x < -11. Теперь можно раскрыть модуль: x² - 5x - 16 = -(x + 11), далее: x² - 5x - 16 = -x - 11, после чего: x² - 5x - 16 + x + 11 = 0, и, наконец: x² - 4x - 5 = 0. Можно решить это квадратное уравнение: у него два корня: x₃ = -1, x₄ = 5. Можно увидеть, что корень x₃ = -1 не соответствует условию x < -11, таким образом он не является решением данного уравнения, при этом корень x₄ = 5 тоже не соответствует условию x < -11, таким образом он тоже не является решением данного уравнения.
Итак, получились два корня: x₁ = -3 и x₂ = 9.