Bom dia Luana.
A função f(x) será contínua se conseguirmos fazer o gráfico desta função com apenas uma curva, sem ter que tirar o 'lápis' do papel.
Geralmente, um grande fator de descontinuidade é o DENOMINADOR ser igual a ZERO em uma função definida como um QUOCIENTE, caso desta f(x).
Note que o NUMERADOR não tem problema, pois a função cosseno de x é contínua para todos os valores reais.
Portanto para que a função f(x) acima definida seja contínua no conjunto dos números REAIS, seu denominador deve ser SEMPRE DIFERENTE de ZERO.
Matematicamente, temos que o denominador não pode ser ZERO, ou seja, a equação a seguir não tem solução
3x² + 1 = 0
3x² = -1
Como 3 é um número positivo 3 > 0, então temos ter que x² seja um número NEGATIVO (x² < 0).
No conjunto dos números REAIS, temos que
x² > ou = 0 SEMPRE.
Logo, não temos valores de x tal que 3x² = -1.
Portanto a função
f(x) = cos x / (3x²+1) é contínua.
Vou deixar o gráfico de f(x) para x de -5 até 5. (Para melhor visualização clique na imagem)
Espero ter ajudado e bons estudos.