数学の質問です。

(もし答えになってなかったらごめんなさい)

多分ですがその教科書にある半ば挑発的な質問って、適切な置換を被積分関数に行わないと一生解けないよ、みたいなことを言いたいんじゃないかなって単に思いました。じゃあ試しに上記の置換方法でみてみます。 $(a≧0)$とし、

$$\int_{0}^{a} \dfrac{1}{x^2+a^2} dx　と置きます。「t=x^2+a^2」とすると、\dfrac{dt}{dx}=2x$$

$$(与式)=\int_{0}^{2a^2} \dfrac{1}{2xt}dt$$

ここで、$x$が邪魔なので置き換えたやつで戻します　$x=±\sqrt{t-a^2}$

すでに面倒です。-の符号は、議論している関数の範囲から+でしょう。

$$(与式)=\int_{0}^{2a^2} \dfrac{1}{2t\sqrt{t-a^2}}dt$$

さんざん置換で荒らした結果ですが、ここから先は普通に考えて無理です。一般の想定される高校生のレベルでは解けないと感じましたし、どうあがいても結局一番最初の積分に戻りそうです。

結局言いたかったのはこんな置換じゃ解けないよ、ということなんじゃないでしょうか？