ベクトル(複素数）の問題です。

解答に入る前に、平面ベクトルと複素数について対応を述べておきます。

$\underline{平面ベクトルと複素数}$

点 $A$ の位置ベクトル $\overrightarrow{OA}$ が

$$\overrightarrow{OA} = \begin{pmatrix} x_A \\ y_A \end{pmatrix}$$

を満たすとき、この点 $A$ は複素数平面における

$$\alpha = x_A + i y_A$$

なる $\alpha$ が示す点と同一位置の点になる。（つまり、平面ベクトルと複素数平面を重ねたとき、$A$ と $\alpha$ が示す点は重なる。）

さらに、点 $B$ に対して対応する複素数 $\beta$ は

$$\overrightarrow{OB} = \begin{pmatrix} x_B \\ y_B \end{pmatrix},\quad \beta = x_B + i y_B$$

の様に定義できる。ここから、

$$\overrightarrow{AB} = \begin{pmatrix} x_B-x_A \\ y_B-y_A \end{pmatrix},\quad \beta-\alpha = (x_B - x_A) + i (y_B-y_A)$$

であることが分かるため、$\overrightarrow{AB}$ に対応する複素数は $\beta - \alpha$ と言える。

では、上記を念頭に置いて考えてみましょう。

$\underline{(1)}$

点 $P_n$ に対応する複素数を $z_n$ とする。

$$\overrightarrow{P_0 P_1} = \begin{pmatrix} 1 \\ 0 \end{pmatrix}$$

であることから、$\overrightarrow{P_0 P_1}$ に対応する複素数は

$$z_1 - z_0 = 1 + 0i = \cos(0)+i\sin(0)$$

である。さて、条件(ii)を複素数平面の目線から捉え直すと、

『$\overrightarrow{P_1 P_2}$ に対応する複素数、即ち $z_2 - z_1$ は $z_1 - z_0$ を $r$倍拡大, 120度回転して得られる』

ということである。したがって

$$z_2 - z_1 = (z_1 - z_0) \times r\left[\cos\left(\frac{2\pi}{3}\right)+i\sin\left(\frac{2\pi}{3}\right)\right]$$

が成り立つ。同様にして、

$$z_3 - z_2 = (z_2 - z_1) \times r\left[\cos\left(\frac{2\pi}{3}\right)+i\sin\left(\frac{2\pi}{3}\right)\right]\\= (z_1 - z_0) \times r^2 \left[\cos\left(\frac{4\pi}{3}\right)+i\sin\left(\frac{4\pi}{3}\right)\right]$$

これを計算することにより

$$z_3 - z_2 = -r^2 \left( \frac{1}{2} + \frac{\sqrt{3}}{2}i \right)$$

となるため、対応するベクトル$\overrightarrow{P_2 P_3}$は

$$\overrightarrow{P_2 P_3} = -\frac{r^2}{2} \begin{pmatrix} 1 \\ \sqrt{3} \end{pmatrix}$$

であると分かる。

$\underline{(2)}$

条件(ii)より、3回操作で大きさは $r^3$ 倍、向きは(360度回転の結果として)元通りとなるから

$$\overrightarrow{P_i P_{i+1}} = r^3 \overrightarrow{P_{i+3}P_{i+4}}$$

が成り立つ。したがって、

$$\overrightarrow{P_0 P_{3m}} = \overrightarrow{P_0 P_1} + \overrightarrow{P_1 P_2} + \overrightarrow{P_2 P_3} + \cdots + \overrightarrow{P_{3m-3} P_{3m-2}} + \overrightarrow{P_{3m-2} P_{3m-1}} + \overrightarrow{P_{3m-1} P_{3m}}\\= (1 + r^3 + \cdots + r^{3(m-1)}) (\overrightarrow{P_0 P_1} + \overrightarrow{P_1 P_2} + \overrightarrow{P_2 P_3})$$

と分かる。このベクトルは $P_{3m}$ 位置ベクトルなので、この $x, y$成分がそのまま座標となる。(具体的な計算は略。)

$\underline{(3)}$

(2)の係数部分 $(1 + r^3 + \cdots + r^{3(m-1)})$ について $m\to \infty$ の極限を考える。これを無限等比級数と捉えれば

$$1 + r^3 + \cdots = \sum_{k=1}^{\infty} r^{3(k-1)} = \frac{1}{1-r^3}$$

と変形できる。よって収束点の位置ベクトルは

$$\frac{1}{1-r^3}(\overrightarrow{P_0 P_1} + \overrightarrow{P_1 P_2} + \overrightarrow{P_2 P_3})$$

と書ける。

少し雑な書き方ですが、エッセンスは取り出せていると思います。