Como faz isso

Um dos grandes problemas deste problema é que desconheço * como um produto de dois vetores.

Neste sentido, com "x"é produto vetorial, vou considerar "*" como produto escalar.

O ponto O é o ponto da origem do sistema de coordenadas. Prortanto

O=(0,0)

Vetor OA= (-1,3)-(0,0) = (-1-0,3-0)=(-1,3)

AB=(2,5)-(-1,3)=(3,2)

OC=(3,-1)

CB=(3,-1)-(2,5)=(1,-6)

Emresumo, os vetores para as operações são:

OA=(-1,3)

AB=(3,2)

OC=(3,-1)

CB=(1,-6)

a) Considerando que é o produto escalar. O resustado é um escalar que corresponde ao produto das projeções dos vetores no sistema de coordenadas e somando.

OA*AB=(-1,3)*(3,2)=-1*3+3*2=-3+6=3

OA*AB==3

b) É o produto vetorial que resulta em um vetor perpendicular ao plano entre os dois vetores. Ou seja, neste caso é um vetor na direção z. Vamos resolver pelo método matricial

OC x CB = [-18+1]k = -17 k = (0,0,-17)

c) Soma com produto escalar.

(OA-AB)  .  (OC-CB)=[(-1,3)-(3,2)] . [(3,-1)-(1-6)] = (-4,1) . (2,5) =-8+5=-3

Espero não ter errado os cálculos