https://manabitimes.jp/math/587 の公式は点Xが内部にある場合が前提になっています。外部にある場合はどのようになるでしょうか。また、それはなぜでしょうか。ただし三角形XAB, XBC, XCAはいずれも三角形として成立するような点Xでのみ考えて良いものとします。

$X$ が $\triangle ABC$ の内部にあっても外部にあっても，

$$p \overrightarrow{XA} + q \overrightarrow{XB} + r \overrightarrow{XC} = 0$$

のとき

$$(XAB) : (XBC) : (XCA) = r : p : q$$

です。

ただし，内部にあるときは $p,q,r > 0$ とできるのに対し，外部にあるときは $p,q,r$ のうち $1$〜$2$ つが $< 0$ です。

だから面積が負値をとりうるように定義する必要があります。

【定義 (符号つき面積)】$O(0,0),\ A(A_x,A_y),\ B(B_x,B_y)$ を頂点とする $3$ 角形 $OAB$ の符号つき面積を

$$(OAB) = \frac{1}{2}(A_x B_y - A_y B_x)$$

と定める。

※頂点の順序によって $(OAB) = -(OBA)$ と符号が変わるので注意。

こう定義すると始めに述べたことが成り立ちます。

証明は定義どおりに計算するだけです。