Преобразуем исходную формулу: cos(α - β) = cos α cos β + sin α sin β.
Можно увидеть, что для решения не хватает значений sin α и cos β.
Используем основное тригонометрическое тождество: sin2 x + cos2 x = 1.
Тогда sin2 α = 1 - cos2 α, откуда, подставив cos α = -

12

13

, можно найти: sin α = ±

5

13

.
Так как

π

2

<α<π, то sin α =

5

13

.
Аналогично с cos β: cos2 β = 1 - sin2 β, откуда можно найти: cos β = ±

60

61

.
Так как π<β<

3π

2

, то cos β = -

60

61

.
Подставим найденные значения в формулу: -

12

13

× (-

60

61

) +

5

13

× (-

11

61

).
Откуда:

-12 × (-60) + 5 × (-11)

793

.
Откуда можно получить ответ:

665

793

.