この問題の解き方をわかりやすく教えていただきたいです。なぜそういう発想が出てくるのかも含めてくれるとありがたいです。(3)の答えは(√5-1)/2です。

すべて演繹的に推論できればよかったですが，(2)の途中は帰納に頼りました．

(1)

$r_n, r_{n + 1}, r_{n + 2}$ の $3$ 項間の関係式をみちびきたい．相互いに接する $2$ 円の中心間の距離は半径の和に等しいことから，

$$\begin{aligned} (x_{n + 1} - x_n)^2 + (r_{n + 1} - r_n)^2 &= (r_{n + 1} + r_n)^2 \\ (x_{n + 2} - x_n)^2 + (r_{n + 2} - r_n)^2 &= (r_{n + 2} + r_n)^2 \\ (x_{n + 2} - x_{n + 1})^2 + (r_{n + 2} - r_{n + 1})^2 &= (r_{n + 2} + r_{n + 1})^2\end{aligned}$$

簡単に変形して，

$$\begin{align} (x_{n + 1} - x_n)^2 &= 4r_{n + 1}r_n \\ (x_{n + 2} - x_n)^2 &= 4r_{n + 2}r_n \\ (x_{n + 2} - x_{n + 1})^2 &= 4r_{n + 2}r_{n + 1}\end{align}$$

$(2)$ を $x_n$ について，$(3)$ を $x_{n + 1}$ について解き，

$$\begin{aligned} x_n &= x_{n + 2} \pm 2\sqrt{r_{n + 2}r_n} \\ x_{n + 1} &= x_{n + 2} \mp 2\sqrt{r_{n + 2}r_{n + 1}}\end{aligned} \ \ (\mathrm{respectively})．$$

したがって，

$$x_{n + 1} - x_n = \pm 2\sqrt{r_{n + 2}}(\sqrt{r_n} + \sqrt{r_{n + 1}})．$$

これを $(1)$ へ代入して，

$$\begin{aligned} 4r_{n + 2}(\sqrt{r_n} + \sqrt{r_{n + 1}})^2 &= 4r_nr_{n + 1} \\ r_{n + 2} &= \frac{r_nr_{n + 1}}{(\sqrt{r_n} + \sqrt{r_{n + 1}})^2}．\end{aligned}$$

これで目的の関係式が求まった．

　帰納法を使う．$q_0, q_1$ が整数であることは明らか．$q_n, q_{n + 1}$ が整数であると仮定すると

$$q_{n + 2} = \frac{1}{\sqrt{2r_{n + 2}}} = \frac{1}{\sqrt{2}} \cdot \frac{\sqrt{r_n} + \sqrt{r_{n + 1}}}{\sqrt{r_nr_{n + 1}}} = q_{n + 1} + q_n$$

より $q_{n + 2}$ は整数である．

(2)

$x_n, x_{n + 1}$ および $r_{n + 1}/r_n$ が定まれば $x_{n + 2}$ が定まる．これら $4$ 項間の関係式をみちびきたい．そのために $(2)$，$(3)$ の比をとれば，

$$\begin{aligned}\frac{r_{n + 1}}{r_n} &= \left(\frac{x_{n + 2} - x_{n + 1}}{x_{n + 2} - x_n}\right)^2 \\-\sqrt{\frac{r_{n + 1}}{r_n}} &= \frac{x_{n + 2} - x_{n + 1}}{x_{n + 2} - x_n} \\x_{n + 2} &= \left(1 + \sqrt{\frac{r_{n + 1}}{r_n}}\right)^{-1} \left(\sqrt{\frac{r_{n + 1}}{r_n}}x_n + x_{n + 1}\right)．\end{aligned}$$

これで目的の関係式が求まった．

　ところで任意の $n \geq 0$ に対して，

$$\begin{aligned}\sqrt{\frac{r_{n + 2}}{r_{n + 1}}} &= \frac{\dfrac{\sqrt{r_nr_{n + 1}}}{\sqrt{r_n} + \sqrt{r_{n + 1}}}}{\sqrt{r_{n + 1}}} = \frac{\sqrt{r_n}}{\sqrt{r_n} + \sqrt{r_{n + 1}}} = \left(1 + \sqrt{\frac{r_{n + 1}}{r_n}}\right)^{-1}．\end{aligned}$$

したがって，

$$x_{n + 2} = \sqrt{\frac{r_{n + 2}}{r_{n + 1}}} \left(\sqrt{\frac{r_{n + 1}}{r_n}}x_n + x_{n + 1}\right)．$$

この式へ $n = 0,1,2,\cdots$ を代入してみると

$$x_2 = \sqrt{\frac{r_{n + 2}}{r_{n + 1}}},\ \ x_3 = \sqrt{\frac{r_{n + 3}}{r_{n + 2}}},\ \ x_4 = \sqrt{\frac{r_{n + 4}}{r_{n + 3}}},\ \ \cdots$$

だから $x_n = \sqrt{r_n / r_{n - 1}}$ が予想できる．

　この予想が真であることを帰納法で示す．$x_1, x_2$ での成立は明らか．$x_n, x_{n + 1}$ での成立を仮定すると，$x_{n + 1} = (1 + x_n)^{-1}$ に注意して，

$$\begin{aligned}x_{n + 2} = \sqrt{\frac{r_{n + 2}}{r_{n + 1}}} \left(\sqrt{\frac{r_{n + 1}}{r_n}}x_n + x_{n + 1}\right) = \sqrt{\frac{r_{n + 2}}{r_{n + 1}}} x_{n + 1}(x_n + 1) = \sqrt{\frac{r_{n + 2}}{r_{n + 1}}}\end{aligned}$$

がしたがう．

　さて $p_n = q_n x_n$ だから，

$$p_n = \frac{1}{\sqrt{2r_n}} \sqrt{\frac{r_n}{r_{n - 1}}} = \frac{1}{\sqrt{2r_{n - 1}}} = q_{n - 1}．$$

つまり $p_n$ は整数である．

　一般に，$a = mb + c$ であるとき $(a,b) = (b,c)$ である．だから $q_n = q_{n - 1} + q_{n - 2}$ であることによって，

$$\begin{aligned}(q_n,p_n) = (q_n,q_{n - 1}) = (q_{n - 1},q_{n - 2}) = \cdots = (q_1,q_0) = (1,1) = 1．\end{aligned}$$

つまり $q_n,p_n$ は互いに素である．

(3)

$$\begin{aligned}|x_{n + 1} - \alpha| = \left|\frac{1}{1 + x_n} - \frac{1}{1 + \alpha}\right| = \frac{|x_n - \alpha|}{(1 + x_n)(1 + \alpha)}．\end{aligned}$$

ここで $x_n \geqq 0$，$\alpha \approx 0.6 > 1/2$ だから $(1 + x_n)(1 + \alpha) > 3/2$．よって，

$$|x_{n + 1} - \alpha| < \frac{2}{3}|x_n - \alpha|．$$

この不等式は $x_n, \alpha$ の距離が漸近的に $0$ へ近づくことを示しているから，

$$\lim_{n \to \infty} x_n = \alpha = \frac{-1 + \sqrt{5}}{2}．$$