結論から言うと、解けると思います。が、あまりにも方程式の自由度が高いせいで不定解のみしか出ませんでした。それも含めて説明できたらと思います。(ごり押しです)
最初の変形としては、斉次であることから何かの文字について解くことから始めました。つまりこんな感じ、
d2+bd−(a2−b2+c2+ac)=0
d=2−b±b2+4(a2−b2+c2+ac)と出てきます。普通整数の問題でこんなことはしませんが後のことを考えてのことです。見た目がひどいので平方根をkという変数で簡約しましょう。
d=2−b±kここで先に条件絞りをします。分子は2の倍数でないといけないので
b≡k (mod 2)ー①
これが成立します、ここで一旦この変数は放置します。(覚えておいてください)
続いて、kの中身を綺麗にしたいので二乗し、
b2+4(a2−b2+c2+ac)=k2
これでは何もわからないので、
(2a+c)2+3(b2−c2)=k2
こうすると次で積の形で解を導出できます。
3(b+c)(b−c)={k−(2a+c)}{k+(2a+c)}
さて、ここからがおよそ10を超える場合分けの作業となります。左辺を見ると3の倍数となっているので、右辺のどちらかは3を持つことになり、以下のように分けられます。
(ⅰ)k−(2a+c)≡0 (mod 3)のとき
(ⅱ)k+(2a+c)≡0 (mod 3)のとき
一度このパターンですべて書き出してみると、(分裂している式々は横に見てもらってください)
(ⅰ)のとき
k−(2a+c)=⎩⎨⎧33(b−c)3(b+c)3(b2−c2) 、 k+(2a+c)=⎩⎨⎧(b2−c2)(b+c)(b−c)1
(ⅱ)のとき
k+(2a+c)=⎩⎨⎧33(b−c)3(b+c)3(b2−c2) 、 k−(2a+c)=⎩⎨⎧(b2−c2)(b+c)(b−c)1
この時点で多すぎるのですが、よく見てみると、この二つに大きな違いは数学的になさそうです。ですのでここらで形式を変えてみましょう。2kと2(2a+c)について解けばいいです。
2k=⎩⎨⎧3+(b2−c2)3(b−c)+(b+c)3(b+c)+(b−c)3(b2−c2)+1 、 2(2a+c)=⎩⎨⎧∓3±(b2−c2)ー(ア)∓3(b−c)±(b+c)ー(イ)∓3(b+c)±(b−c)ー(ウ)∓3(b2−c2)±1ー(オ)
ここからは地道に解いてみます。まずは解がなさそうな(ア)と(オ)から、
(ア)のとき、
2k=3+(b2−c2)ここで、kの偶奇について考えます。
kが偶数だと 2k−b2≡3−c2 (mod 4) このときに左辺は4で割り切れるものの、右辺が問題です、二乗の際に余りは0,1のどちらかしかとらず式が満足できません。次はkが奇数のときです。ここで①より
k≡b≡1 (mod 2)が分かりますね、すると与式は次のようになります,
しかし、前述の通り、c2というのは余りに2を持たず、さらにkは奇数なので左辺の余りは2になります。ゆえにこちらの場合も満足できないので、
ということで思った通り(ア)は不適。
(エ)のとき、
2k=3(b2−c2)+1ここで、d=2−b±kこいつを考えてみましょう。d=4−2b±(3b3−3c2+1)こうなりますが、よく見るとbとcの偶奇が一致するとまずいのが分かるかと思います。ですので、
⒈ b≡1,c≡0(mod 2)のとき
⒉ b≡0,c≡1(mod 2)のとき
と分けます。
⒈では−2b±(3b3−3c2+1)≡−2b±4≡2(mod 4)
⒉では、−2b±(3b3−3c2+1)≡±(1−3c2)≡±2(mod 4)
よっていずれの場合も与式を満足できないので、これも不適。
あとは(イ)(ウ)だけです。
この時点で文章が冗長なので、一旦切らせてもらいます(すみません🙇)
返信の欄等でまた書きますね