Bom, vamos lá.
Queremos obter o maior retângulo inscritível na elipse (x²/2) + (y²/5) = 1.
A área do retângulo é A = b.h.
Tomemos b = 2x e h = 2y. A área do retângulo é A = 4xy.
Explicitando y na elipse,
y = sqrt (5 (1- x²/2))
Substituindo y na fórmula da área,
A = 4*x* sqrt (5 (1- x²/2))
Calculando a derivada de A (deixo a derivada para o aluno exercitar) e igualando a zero para achar o ponto extremo, obtemos x = 1.
Substituindo o valor de x na fórmula de y, obtemos y = sqrt(5/2)
Como os valores das dimensões do retângulo são b = 2x e h = 2y,
Temos que b = 2 e h = sqrt(10).
Espero ter ajudado.