Olá, Luane
Na primeira basta fazermos a multiplicação de matrizes, por exemplo
AxA = [1.1 + 2.4 1.2 + 2.1 | 4.1 + 1.4 4.2 + 1.1]
= [9 4 | 8 9]
Para calcularmos A ao cubo multiplicamos AxA por A novamente e obtemos
Ax(AxA) = [9.1 + 4.4 9.2 + 4.1 | 8.1 + 9.4 8.2 + 9.1]
= [25 22 | 44 25]
Agora elevamos isso ao quadrado, ou seja, multiplicamos a matriz por ela mesma
(AxAxA)² = [25.25 + 22.44 25.22 + 22.25 | 44.25 + 25.22 44.22 + 25.25]
Vou deixar as contas para você terminar. E para acharmos A + A = 2A ao quadrado é fácil, pois
(2A)² = 4.A² = 4.AxA = 4.[9 4 | 8 9] = [36 16 | 32 36]
Agora ainda precisamos somar A e elvar tudo ao cubo, e obtemos
(4A² + A)³ = (4A² + A)(4A² + A)(4A² + A)
= (16A4 + 8.A³ + A²)(4A² + A)
= 64.A6 + 48.A5 + 12.A³ + A³
= 64.(AxAxA)² + 48.(AxAxA)x(AxA) + 12.(AxAxA) + (AxAxA)
Na última linha basta substituir os valores que já calculamos e fazer as contas, só resta uma multiplicação de matrizes que é (AxAxA)x(AxA).
Já a segunda questão podemos montar um sistema da forma 10.x + 5.y + 2.z = 400 onde x é a quantidade de notas de 10, y as de 5 e z as de 2, assim x + y + z = 94, vamos isolar z na segunda eqação para obtermos
x + y+ z = 94 -> z = 94 - x - y
Substituindo isso na primeira temos
10.x + 5.y + 2.z = 400
10x + 5y + 2(94 - x - y) = 400
10x + 5y + 188 - 2x - 2y = 400
8x + 3y = 400 - 188
x = (212 - 3y)/8
Agora substituimos isso na primeira equação novamente para encontrar
212 - 3y + 8y + 8z = 752
5y + 8z = 540
z = (540 - 5y)/8
isso nos diz que ambos (212 - 3y) e (540 - 5y) devem ser divisiveis por 8, pois caso contrario o número de notas não será inteiro, e para que isso ocorrá podemos analisar o resto da divisão por 8 (mod 8), o resto de 212 é 4, assim como o de 540, portanto o resto de 5y e de 3y também deve ser 4, para que a soma dos restos de 8 e portanto não tenha resto. Se olharmos a tabuada do 3 o resto da divisão por 8 é 4 em 3.4 = 12, 3.12 = 36, 3.20 = 60, já para o 5 temos os mesmos valores 5.4 = 20, 5.12 = 60, 5.20 = 100.
Poranto y deve ser um npumero do tipo 4, 12, 20, ..., 4 + 8.n, para algum n natural. Assim basta verificar em qual desses x + y + z = 94. Testamos primeiro a opção y = 4
z = (540 - 5.4)/8 = 65
x = (212 - 3.4)/8 = 25
65 + 25 + 4 = 94 e 25.10 + 4.5 + 65.2 = 250 + 20 + 130 = 400. Portanto são 25 notas de 10, 4 de 5 e 65 de 2. Porém se usamos y = 12, x = 22 e z = 60 também temos uma resposta correta, ou y = 20, x = 19, z = 55.
Não sei se entendi algo errado no enunciado ou se tem alguma informação faltando, mas me parece ter muitas respostas possíveis, sempre que aumentamos o valor de y em 8, diminuimos x em 3 e z em 5 continuaremos com uma resposta valida, pois o número de cédulas não muda já que aumentamos 8 em y e tiramos um total de 8, 5 de z e 3 de x. Além disso o valor tirado e colocado não muda, foi retirado 5.2 + 3.10 = 40, e adicionamos 8.5 = 40.