Olá, tudo bem? Vamos lá:
( x - 4 ) ² + 2 ( x - 3) ² - ( x - 5) ²
x² -8x + 16 + 2.(x² - 6x + 9) - (x² -10x +25)
x² - 8x + 16 + 2x² -12x + 18 - x² + 10x - 25 ---> note que eu fiz a distribuitiva com o sinal de menos, trocando o sinal de todo mundo do último parênteses.
2x² -10x + 9, que é a resposta do problema que você colocou.
Para dar a solução 2x² +14x + 9, a expreção do enunciado deveria ser: ( x - 4 ) ² + 2 ( x + 3) ² - ( x - 5) ²
Verifique se você não errou aquele sinalzinho ali sem querer
Espero ter ajudado!