写真の問題の(2)についてですが、解答の1行1行の操作(何をしているか)は理解できるのですが、これを初見で解くとなった時、例えば、

受験界隈では有名なテクニックなのかもしれません。が、高校生の目線に立つと突拍子もないようにも見えますね。

勉強として、「こういうやり方もあるのか」と思って自分のストックに組み込むことは重要ですので、この方法もその意味で理解しておくと困らないと思います。ただ、この問題はもう少し泥臭く解くこともできます。

まず、条件より$\ x_1<0,\ y_1<0\$と$\ x_3>0,\ y_3>0\$が分かります。よって、

$$x_1 y_1>0,\quad x_3 y_3>0$$

と分かるので、$\ x_2, \ y_2\$が同符号ならば明らかに$\ r>0\$となります。どちらかが0となる場合も同様です。

よって$\ x_2,\ y_2\$が異符号のときだけ考えればよいですが、対称性より

$x_2>0,\ y_2<0\$のときだけ議論してあげれば十分でしょう。

このとき、

$$|x_1|>|x_3|,\quad |y_1|<|y_3|$$

という不等式を得ることが出来ます。さて、

$$x_1y_1=|x_1||y_1|,\quad x_3y_3=|x_3||y_3|$$

としても良いわけです。これを念頭に考えてみると、

$$x_1y_1\ +\ x_2y_2\ +\ x_3y_3\ =\ |x_1||y_1|+x_2y_2+|x_3||y_3|\ >0$$

を示せばよいことに気づきます。ここで、先程の大小関係を使うと、

$$|x_1||y_1|+x_2y_2+|x_3||y_3|\ >\ 2|x_3||y_1|+x_2y_2\ =\ 2|x_3||y_1|-|x_2||y_2|$$

と出来る訳ですが、$\ |x_2|\ <\ |x_3|,\quad |y_2|\ <\ |y_1|\$を思い出せば最右辺は正にできます。

したがって、$\ r<0\$は示せたことになりますね。

この方法は実験的で泥臭いですが、用いている発想はそこまで難しくなく試験でも浮かびやすいものだと思います。模範解答などはスマートなものが採用されることもありますが、本番ではある程度の泥臭さも必要なことがあります。