Esse é um problema de análise combinatória.
Precisamos combinar, entre os 11 pontos, 3 pontos para formar um triângulo. Porém, precisamos descartar as combinações de escolher 3 pontos de uma mesma reta.
Logo, C(11,3) - C(7,3) - C(4,3)
11!/(11-3)!x3! - 7!/(7-3)!x3! - 4!/(4-3)!x3! = 11!/8!x3! - 7!/4!x3! - 4!/1!x3! = 11x10x9x8!/8!x3! - 7x6x5x4!/4!x3! - 4x3!/3!
Logo, cortando: 11x10x9/3x2x1 - 7x6x5/3x2x1 - 4 = 165 - 35 - 4 = 126
