(2)で求める直線上の点をP(p,q)とすると、

まず一個目、計算ミスがありますね

$3x^2-3y^2+10x+y-8=0$ではなく、

正しくは$3x^2-3y^2+10x+14y-8=0$です。

それで二個目、答え方です

この式$(3x^2-3y^2+10x+14y-8=0)$のグラフはどうなっているかというと、下の写真のようになっています。(緑がこの式、赤青は問題の直線)

なので、ちゃんと角の二等分線を表す式にはなっているんです

実際$3x^2-3y^2+10x+14y-8=0$を頑張って因数分解すると、

$(x-y+4)(3x+3y-2)=0$

$x-y+4=0$, $3x+3y-2=0$になって、答えと一致すると思います