Ola Bruna,
tem várias maneiras de resolver esse problema, note que como são duas retas e não dois planos é perfeitamente possível resolver com papel e lápis e desenhos mas eu vou seguir o caminho da força bruta porque é mais trabalhoso mas mais fácil de generalizar.
Bem "ser tangente" aqui quer dizer que existe apenas um ponto que pertence a esfera, que eu vou chamar de S, e a r1 assim como apenas um ponto (diferente) que pertence apenas a r2 e S. Para definir completamente S precisamos de duas informações, o centro C(cx, cy, cz) e o raio R. A esfera é então o conjunto solução da seguinte equação (x-cx)^2 + (y-cy)^2 + (z-cz)^2 = R^2.
Parte 1) Queremos que exista apenas um ponto que pertenca a r1 e S, pra isso pegamos um ponto genérico de r1, por exemplo, (t,t,0) e substituimos na equação de S ficando com (t-cx)^2 + (t-cy)^2 + z^2 = R^2. Note que o valor de t não importa o que queremos saber mesmo são cx,cy,cz e R, tudo que precisamos é que essa equação só seja satisfeita por um único valor de t real. Vamos então abrir essa expressão, ficamos com t^2 - 2*t*cx + cx^2 + t^2 - 2*cy*t + cy^2 + z^2 - R^2 = 0 --> 2*t^2 - 2*(cx + cy)*t + (cx^2 + cy^2 + cz^2 - R^2) = 0. Bem essa é uma equação de segundo grau e nós sabemos o que precisa acontecer para que essa equação só tenha um solução real o valor de delta (ou discriminante) tem que ser menor ou igual a zero, lembre que delta = b^2 - 4*a*c, nesse caso a = 2, b = -2*(cx + cy) e c = cx^2 + cy^2 + cz^2 - R^2. Depois disso tudo vamos ficar com uma inequação meio esdrúxula que se resume a delta <= 0, pra não confundir eu vou chamar de deltaR1 <= 0.
Parte 2) Agora você repete o processo pela reta r2, a única diferença é que um ponto genérico de r2 é da forma (-1 +s, 1 - s, 1 + s) e a conta vai ser mais feia. Você denovo vai chegar numa outra equação que precisa ter apenas uma solução real.
Parte 3) Nessa parte do problema você vai notar que você ainda não tem equações suficientes para determinar unicamente os valores de cx,cy,cz e R e portanto S. Isso era esperado, imagine que você tivesse um cone, tipo uma taça de bebida, você pode jogar uma bolinha dentro da taça e você vai ver que ela vai tangenciar as paredes da taça em apenas um ponto, se você jogar uma bolinha maior dentro da taça ela ainda vai tangenciar em só um ponto, mas esses pontos vão ser diferentes pq a bolinha é maior. O seu problema é parecido com o da taça de bebida mas ao invés de um cone você só tem duas retas (tipo segurar comida com os palitinhos japoneses). Bem espero que isso tenha te dado uma intuição geométrica. O que você vai precisar para resolver o seu exercício é usar a condição que o raio é mínimo.
Espero que isso tenha te dado uma ajuda pra começar a tentar rabiscar alguma coisa. Se precisar de mais detalhes é só falar!