Olá Yasmim
Há uma propriedade fundamental sobre MDC e MMC entre dois inteiros que diz :
MDC(x,y)*MMC(x,y)=x*y
Aplicando a propriedade acima ao dados do seu problema MDC(x,y)=12 e MMC(x,y)=180, podemos concluir que
12 *180 = x*y (Equação 1)
Logo podemos isolar uma destas incógnitas (x ou y - no caso prefiro isolar o y).
Desta forma temos isto
y = 12*180/x (Equação 2 )
Feito isto, vamos utilizar este valor de y para substituir na equação y - x = 24.
Vejamos
12*180/x - x = 24 --> 12*180/x = 24 + x ---> fazendo a multiplicação cruzada segue isto
x^2 + 24 x = 12*180 ---> x^2 + 24x = 2160.
Temos então que resolver pela última passagem a equação x^2 + 24 x = 2160.
Como sabemos esta se trata de uma equação do segundo grau a qual pode ser resolvida pela fórmula de Bháskara. Antes disto basta colocar na forma canônica a fim de obter os valores para a, b e c.
Colocando na forma canôninca temos x^2 + 24 x - 2160 =0.
Temos assim a = 1, b = 24 e c =-2160.
Feito isto, basta aplicar na fórmula de Bháskara e então podemos concluir que x = 36 ou x =-60.
Entretanto como pelo enunciado x e y são positivos, concluímos que x = 36.
Logo utilizando o valor de x encontrado na equação 2, teremos
y = 12*180/x = 12*180/36 = 2160/36 = 60.
Portanto concluímos que x = 36 e y = 60.
Logo podemos afirmar que
5x - 3y = 5*36 - 3*60 = 180 - 180 =0.
Espero ter ajudado.
Um bom restinho de domingo ! =)