Bom dia Almir.
A maior distância que terá o satélite é quando o DENOMINADOR, parte debaixo da equação, for o MENOR possível, ou seja, 1 + 0,2 cos THETA tiver valor MÍNIMO.
Neste caso, será que o cosseno for o valor mais negativo possível, ou seja, o cosseno deve ser - 1. Desta forma o ângulo será de 180º (o exercício não pede, apenas informação).
Portanto teremos que o denominador será
1 + 0,2 . (-1)
1 - 0,2
0,8
Para achar a distância máxima, fazemos
d = 12 000 / 0,8 - 6 400
d = 15 000 - 6 400
d = 8 600 km
Espero ter ajudado. Abraços e bons estudos.