Você calcula a primeira derivada da função e iguala a zero. Assim vc encontra os pontos críticos. Depois de encontrar os pontos vc calcula a segunda derivada da função e aplica nos pontos críticos. Se o valor da segunda derivada no ponto for positivo o ponto será ponto de mínimo, se o valor da segunda derivada no ponto for negativo o ponto será ponto de máximo.