Olá Paulo. Já faz um tempo que você colocou sua dúvida aqui, vi somente agora, por isso a resposta demorou um pouco.
Vamos lá. Primeiramente vamos lembrar a definição de função de duas variáveis diferenciável.
Definição: Uma função f de duas variáveis é diferenciável no ponto (a,b) se exitem f_x(a,b) e f_y(a,b) e
lim_{(h,k) --> (0,0)} [f(a+h,b+k)-f(a,b)-hf_x(a,b)-kf_y(a,b)]/sqrt(h^2+k^2)=0.
Além de podermos usar essa definição para mostrar se uma função f é diferenciável em (a,b), temos uns teoremas importantes que também podem ser usados para isso e, em geral, é mais fácil verificar a diferenciabilidade de uma função usando-os. Seguem dois deles:
Teorema 1: Se uma função é diferenciável num ponto, então ela é contínua nesse ponto.
Usando a contrapositiva do Teorema 1, temos a seguinte afirmação equivalente: Se uma função é descontínua num ponto, então ela não é diferenciável nesse ponto.
A recíproca do Teorema 1 não é verdadeira, ou seja, existem funções que são contínuas em um dado ponto, mas não são diferenciáveis nesse ponto.
Teorema 2: Se todas as derivadas parciais de primeira ordem de f existem e são contínuas num ponto, então f é diferenciável nesse ponto.
Vamos à resolução dos problemas:
i) f(x,y)= ?(x^2+y²)
Para verificar se f é diferenciável em (0,0), vamos usar a definição. Assim, devemos primeiramente ver se existem f_x(0,0) e f_y(0,0). Vejamos:
f_x(0,0) = lim_{h -->0} [f(0+h,0)-f(0,0)]/h = lim_{h -->0} IhI/h = "não existe".
Logo, como f_x(0,0) não existe, a função f não é diferenciável em (0,0).
Observe que esta função é contínua em (0,0), porém não é diferenciável em (0,0)
ii) g(x,y)= 1-x^2-y^2
Para verificar se g é diferenciável em (0,0), vamos usar o Teorema 2, isto é, vamos ver se f possui as derivadas parciais de primeira ordem contínuas em (0,0). Temos,
g_x(x,y) = -2x e g_y(x,y) = -2y
Como essas derivadas são polinômios, segue que são contínuas em todo R^2, logo são contínuas em (0,0) e assim g é diferenciável em (0,0).
iii) h(x,y)=?(1-x^2-y²)
Para verificar se h é diferenciável no (0,0), procederemos de maneira análoga ao item anterior. Vejamos,
h_x(x,y) = -x/sqrt(1-x^2-y^2) e h_y(x,y) = -x/sqrt(1-x^2-y^2).
As derivadas h_x e h_y são contínuas em (0,0), logo, pelo Teorema 2, a função h é diferenciável.