Olá amigo, tudo bem? Vi que sua pergunta estava a 1 semana sem resposta, então resolvi postar uma solução aqui.
Como T(p(t)) é uma transformação linear de P2 em P2, sendo P2 os polinômios de grau menor ou igual a 2, então podemos escrever, em geral:
p(t) = at² + bt + c, e também p'(t) = 2at + b, assim, substituindo em T(p(t)) = p(t) + (3t + 2)p'(t), temos:
T(p(t)) = 7at² + 4(a+b)t + 2b + c, ou ainda, expressando em termos de uma base B = {1 , t , t²}, temos:
T(p(t)) = {2b+c , 4(a+b) , 7a} . {1 , t , t²}, em que os coeficientes da matriz de transformação são linearmente independentes, assim, temos:
{2b+c , 4(a+b) , 7a} = { { 1 , 2 , 0} , {0 , 4 , 4} , {0 , 0 , 7} }{c , b , a}, com isso queremos os autovalores e autovetores de { { 1 , 2 , 0} , {0 , 4 , 4} , {0 , 0 , 7} }
det{ { 1-u , 2 , 0} , {0 , 4-u , 4} , {0 , 0 , 7-u} } = (1-u)(4-u)(7-u) = 0 --> Os autovalores são u=1, u=4 e u=7
Para calcular os autovetores temos:
{ { 1-1 , 2 , 0} , {0 , 4-1 , 4} , {0 , 0 , 7-1} }{v1 , v2 , v3} = 0 --> v = (v1 , v2 , v3) --> Para u=1 temos v = (1 , 0 , 0)
{ { 1-4 , 2 , 0} , {0 , 4-4 , 4} , {0 , 0 , 7-4} }{v1 , v2 , v3} = 0 --> v = (v1 , v2 , v3) --> Para u=4 temos v = (2/3 , 1 , 0)
{ { 1-7 , 2 , 0} , {0 , 4-7 , 4} , {0 , 0 , 7-7} }{v1 , v2 , v3} = 0 --> v = (v1 , v2 , v3) --> Para u=7 temos v = (4/9 , 4/3 , 1)
Suprimi as contas para que o método fique em evidência, mas acredito que não será difícil checar as passagens. Bons Estudos.