Use a derivada direcional para calcular o necessário para o exercício. A fórmula é dada por D_v f(P) = df/dv (P)= grad f(P).v/||v||, com "." sendo o produto vetorial.
Note que o vetor tem que ser unitário, por isso divide-se por sua norma (processo conhecido por normalização do vetor) e P é o ponto P(2,0) e temos que calcular o gradiente de f, que consiste em suas derivadas parciais, e aplicá-lo no ponto P.
Fazendo os cálculos (estou considerando f(x,y)=xe^y+cos(xy), já que vc digitou f(x,y)=xe^y+cos(x,y), que está incorreto no cosseno), obtemos grad f = (e^y-ysen(xy), xe^y-xsen(xy)), daí grad f(P) = (1,2), e ||v||=5, logo, fazendo o produto vetorial da fórmula da derivada direcional, temos que D_v f(P) = -1, que é a taxa de variação da função.
Espero ter ajudado!