Olá Carlos,
Primeiramente, veja que um poleiro tem oito lugares ordenados: uma ave ao lado da outra tendo a noção de ordem e, sendo assim, a melhor abordagem ao problema é por meio de arranjo simples.
a) A resposta aqui é puramente aplicação da fórmula: A_12,8 (Arranjo simples das 12 aves tomadas 8 a 8).
Cálculo: 12x11x10x9x8x7x6x5=19.958.400.
b) Probabilidade= (casos favoráveis) / (casos totais),
onde os "casos favoráveis" são aqueles em que o galo está empoleirado - esta é a parte mais difícil da questão- e "casos totais" é o número calculado na letra a).
Concentremo-nos no cálculo dos casos favoráveis. O galo ocupará um dos oito lugares, sobrando, portanto, 7 lugares para as 11 galinhas. Sendo assim, teríamos um arranjo simples de 11 galinhas tomadas 7 a 7. No entanto, não sabemos qual lugar será ocupado pelo galo (1º, 2º, etc.) e, portanto, multiplicamos esse arranjo simples pelas 8 posições possíveis para o galo:
Casos Favoráveis= ( A_11,7 ) x 8 = 11 x 10 x 9 x 8 x 7 x 6 x 5 x 8.
Finalmente, podemos calcular a probabilidade. Aconselho-te a não utilizar o resultado final das multiplicações, mas sim o produto indicado, deste modo poderemos cortar vários fatores:
Probabilidade = (11 x 10 x 9 x 8 x 7 x 6 x 5 x 8)/(12 x 11 x 10 x 9 x 8 x 7 x 6 x 5) = 8/12
Para obter a resposta final, basta simplificar a fração dividindo o numerador e o denominador por 4: 2/3.
Bons estudos!