この式の導出がわかりません。

えーっとですね…、この方程式の形は一回も見たことが無いです。解説は長くなりそうです、因みにかっこの部分は説明だけで結構な方はすっ飛ばして構いません

(2乗が関わっていたら「ペル方程式」という$X^2-NY^2=1$という有名な形がるのですが(調べてみると分かりますよ)それではなかったので、かなり苦労しました。今回は、一見飛躍しているようにも感じる部分があるかと思われるので気を付けてください。本当に気色が悪いです笑)

できる限りかみ砕きますが理解に苦しむところもあるかもしれないので、ちょっと気を付けてくださいね。※注　整数のくせに数列の概念を含みます

(解答)

いきなりですが、

$$3x^2-y^2=3(2x+y)^2-(3x+2y)^2=3X^2-Y^2-⓪$$と変形します。

ここでの狙いは、まず、式の形を見てもらうと分かる通り両辺に$3〇^2-△^2$という大部分が見えますね。こうすることで、両辺で〇と△に関する関係式がそれぞれ独立して作れるのです。

$3〇'^2-△'^2=3〇^2-△^2$における〇'と〇、△'と△の関係式がふたつ作れるようになる、といったところでしょうか。3つの変形式⓪が$x→X,y→Y$と循環しているように見れれば大筋は理解できたと思ってもらって構いません

ここで謎の変形式を参考にして数列的な見方をしてみると、

$$\begin{cases}X=2x+y \\Y=3x+2y\end{cases} →\begin{cases}x_{n+1}=2x_n+y_n -① \\y_{n+1}=3x_n+2y_n-②\end{cases}$$

という関係が見つけられるでしょう(ここの変形ほんとスミマセン)

もし、信じられなかったら、

連立漸化式ですね、この解き方は、変数を一つに揃えたいので、$x_n$に揃えます。①を$y_n$について解き、②に代入して、

$$y_{n+1}=3x_n+2(x_{n+1}-2x_n)-③$$

①の$nをn+1にずらしてx_{n+2}=2x_{n+1}+y_{n+1}$を③にぶっこんで

$$x_{n+2}-2x_{n+1}=3x_n+2(x_{n+1}-2x_n)　　　ぱぱっと整理して$$

$$x_{n+2}-4x_{n+1}+x_{n}=0$$

ここからはテンプレートですね、分かるのであれば飛ばしても大丈夫です

特性方程式:$x^2-4x+1=0$の2解を$\alpha,\beta$と置いておきます(\alpha<\beta)。値を実際に入れるとしんどくなります。これを用いて、二つの変形した漸化式

$$\begin{cases} x_{n+2}-\alpha x_n=(x_2-\alpha x_1)\beta^{n-1}-④\\ x_{n+2}-\beta x_n=(x_2-\beta x_1)\alpha^{n-1}-⑤\end{cases}$$

ここで忘れてはいけないのが、$3{x_n}^2-{y_n}^2=2$という式を満たす必要がある、ということです。方程式の解を求めたいのですからね。なので、$x_1とy_1$はどっちも1を入れると成立するので、漸化式を通して、$x_2=3,y_2=5$が分かるかと思います。そして④-⑤をして、$x_n$を導きます。

$$x_n=\dfrac{(3-\alpha)\beta^{n-1}-(3-\beta)\alpha^{n-1}}{\beta-\alpha}$$

かなり様になってきていると思いませんか？さて無視してた$\alpha,\beta$を元に戻します、

$$\begin{cases}{\alpha}=2-\sqrt3 \\{\beta}=2+\sqrt3\end{cases}$$

解凍していきましょう

$$x_n=\dfrac{(3-(2-\sqrt3))(2+\sqrt3)^{n-1}-(3-(2+\sqrt3))(2-\sqrt3)^{n-1}}{(2+\sqrt3)-(2-\sqrt3)}$$

$$x_n=\dfrac{(1+\sqrt3)(2+\sqrt3)^{n-1}-(1-\sqrt3)(2-\sqrt3)^{n-1}}{2\sqrt3}$$

$$x_n=\sqrt3 \dfrac{\dfrac{(1+\sqrt3)}{2+\sqrt3}(2+\sqrt3)^{n}-\dfrac{2-\sqrt3}{(2-\sqrt3)}(2-\sqrt3)^{n}}{6}$$

$$x_n=\dfrac{(\sqrt3-3)(2+\sqrt3)^{n}-(\sqrt3+3)(2-\sqrt3)^{n}}{6}$$

やっとのことで$x_n$の一般項、つまり方程式の一般解が出ました。ついでに、方程式の項が$x^2$なので、マイナス値もあり得るってことなので、

$$x=±\dfrac{(\sqrt3-3)(2+\sqrt3)^{n}-(\sqrt3+3)(2-\sqrt3)^{n}}{6}$$が正しい$x$の解と言えるでしょうね。

$y_n$についてですが、①を使いましょう…(ここまで読んでいただいて感謝です！)

$x_{n+1}-2x_n=y_n$なので、

$$y_n=\dfrac{(\sqrt3-3)(2+\sqrt3)^{n+1}-(\sqrt3+3)(2-\sqrt3)^{n+1}}{6}-2\dfrac{(\sqrt3-3)(2+\sqrt3)^{n}-(\sqrt3+3)(2-\sqrt3)^{n}}{6}$$

$$y_n=\dfrac{\sqrt3 (\sqrt3-3)(2+\sqrt3)^{n}+\sqrt3 (\sqrt3+3)(2-\sqrt3)^{n}}{6}$$

これもx_nと同様に考えて、

$$y=±\dfrac{(1-\sqrt3)(2+\sqrt3)^{n}+(1+\sqrt3)(2-\sqrt3)^{n}}{2}$$

この長きに渡る戦いの末にようやく$xとy$が出ました！…っていうかこんなの初見で解けるほうが頭どうかしてるので、解けなくても大丈夫だと思います(ぼくがどうかしてるだけです)今回は長~い解説を読んでいただいてありがとうございます、今後ともこのアーニャをごひいきに(笑)