Bom dia Alexandre.
O segredo de probabilidade é saber separar o problema "Maior" em problemas "menores" e com solução mais "simples".
Dividindo o problema, precisamos:
1 - Descobrir a quantidade de maneiras de se formar grupos com 5 cartas tendo 10 cartas (o que chamamos de casos totais).
2 - Descobrir a quantidade desses grupos, do problema 1, que possuem os 3 ases (o que chamamos de casos favoráveis).
Particularmente, não acho que seja necessário saber os nomes Arranjo, Permutação e Combinação. e sim, um bom raciocínio para resolver os problemas menores criados a partir do particionamento do problema maior em problemas menores. No entanto, vou usar tais nomes, pois sei que em uma resolução formal é cobrado pelos professores.
O problema 1 é de fácil solução e nos ajuda na construção do raciocínio. Nele, temos que realocar 10 cartas em grupos com 5 cartas. O que chamamos de COMBINAÇÃO de 10, 5 a 5, pois a ordem não importa, já que ter, por exemplo, um monte com A, 2, 3, 4 e 5 é o mesmo monte com as cartas 5, 4, 3, 2 e A e qualquer outro monte com essas 5 cartas.
Observação importante:
Perceba que ao se formar um dos montes, o outro necessariamente estará formado, então o nosso problema se resume a avaliar a probabilidade dos 3 ases estar em um desses montes.
O problema 2, é resolvido com raciocínio análogo, pois precisamos descobrir em quantos dos montes do problema 1 temos os 3 ases.
Perceba que agora podemos compreender os 3 ases como um bloco só que deve estar no monte. Portanto, a quantidade de maneiras dos 3 estarem no monte é dado pela combinação de 3, 3 a 3. Ou seja, podemos entender como se fosse uma carta só em um monte com três cartas onde as outras duas cartas restantes podem ser qualquer uma das outras 7. Portanto, pelo Princípio Fundamental da Contagem (Princípio Multiplicativo), temos o produto entre uma combinação de 3 cartas, 3 a 3, e uma combinação de 7 cartas, 2 a 2.
Dessa maneira, resolvendo matematicamente, temos que:
Combinação:
C n,x = n! / ( x! · (n-x)! )
Problema 1:
Combinação de 10, 5 a 5:
(10!)/(5! · 5!) =
(10·9·8·7·6·5!) / (5·4·3·2·1 · 5!) =
RESULTADO: 252
Problema 2:
Combinação de 3, 3 a 3:
(3!)/(3! · 0!) =
1
Combinação de 7, 2 a 2:
(7!)/(2! · 5!) =
(7·6·5!) / (2·1 · 5!) =
21
RESULTADO: 1·21 = 21
Portanto, a probabilidade dos 3 ases estarem no mesmo monte é dada pela razão entre o resultado do problema 2 e o resultado do problema 1, ou seja,
21 / 252 = 1/12
O Problema com 52 cartas tem raciocínio e resolução análogos, portanto, temos que:
Problema 1 (52 cartas):
1 - Descobrir a quantidade de maneiras de se formar grupos com 26 cartas tendo 52 cartas (o que chamamos de casos totais).
Combinação de 52, 26 a 26:
(52!)/(26! · 26!) =
(52·51·50·...·27·26!) / (26·25·24·...·1 · 26!) =
RESULTADO: 495918532948104
2 - Descobrir a quantidade desses grupos, do problema 1, que possuem os 3 ases (o que chamamos de casos favoráveis).
Combinação de 3, 3 a 3:
(3!)/(3! · 0!) =
1
Combinação de 23, 2 a 2:
(23!)/(2! · 21!) =
(23·22·21!) / (2·1 · 21!) =
253
RESULTADO: 1·253 = 253
Portanto, a probabilidade dos 3 ases estarem no mesmo monte é:
253 / 495918532948104
Espero ter ajudado.
Atenciosamente,