Olá Lara,
Antes de iniciar, vou assumir que a função é f(x,y) = x^2-2xsen(y-3), pois não ficou claro pra mim se é sen(y-3) ou sen(y) - 3. Sempre procure usar os parênteses para evitar qualquer tipo de ambiguidade.
Prosseguindo, para encontrar os pontos críticos e as extremidades de uma função de duas variáveis, siga os seguintes passos:
Primeiro, derive a função parcialmente em relação à x e y e iguale cada uma à 0, pois vc estará buscando os pontos críticos, onde a derivada é nula. Então, temos,
Em relação à x --> df(x,y)/dx = 2x-2sen(y-3) =0
Em relação à y --> df(x,y)/dy = -2xcos(y-3) =0
Assim, após algumas simplificações, vc fica com o seguinte sistema de equações:
x-sen(y-3) = 0 (#)
2xcos(y-3) = 0
Agora, isolando x na primeira equação, vc ficará com
x = sen(y-3) (#)
Substituindo na segunda equação, teremos
2sen(y-3)cos(y-3) = 0
Usando a identidade trigonométrica 2sen(a)cos(a) = sen(2a), resulta em
sen[2(y-3)] = 0
Assim, percebe-se que
2(y-3) = n*pi , ou seja, 2(y-3) deve ser um múltiplo de pi, com n = 0, 1, 2, 3, 4, 5 ..... etc
Logo, isolando y, teremos
y = n*pi/2 + 3
Substituindo este resultado em (#), e isolando x, vc terá
x = sen(n*pi/2)
Resumindo, você terá os seguintes pontos críticos (x,y) = (sen(n*pi/2), n*pi/2 +3) que serão infinitos pontos, pois n pode ir até infinito.
Para encontrar os extremos, avalia a função original f(x,y) nestes pontos críticos:
Em n = 0, vc tem
x = 0 , y = -3 e f(0,-3) = 0
Em n = 1, vc tem
x = 1 , y = pi/2 - 3 e f(0,pi/2-3) = -1
Em n = 2, vc tem
x = 0 , y = pi - 3 e f(0,pi-3) = 0
Em n = 3, vc tem
x = -1 , y = 3pi/2 - 3 e f(0,3pi/2-3) = -1
Em n = 4, vc tem
x = 0 , y = 2pi - 3 e f(0,2pi-3) = 0
Perceba que os resultados começarão a se repetir, mas é possível ver que os pontos de mínimo ocorrem apenas quando n é ímpar e os pontos de máximo quando n é par.
Acredito que seja isto,
Até