次の問題が分からないので教えて欲しいです。

[1]-(2)は言われたことをまんま式に変換してあげれば問題ないでしょう

$g(x)についての商をh(x)$とします、(1)で余りは$3x+6$だったはずなので

$$f(x)=(x^2-1)\{x・h(x)+2\}+3x+6$$

$$=x(x^2-1)h(x)+2x^2+3x+4$$

これで簡単に余りが出てしまいました。　$∴(余り)=2x^2+3x+4$

[2]-(2)は、図形を描いて説明をします。これは三角形の高さにのみ依存しているので、直線から一番離れた円上の点を探すことになります。その際に、その点という(点Pのこと)のは原点を通る法線の上にあります(下図参考)。法線がどうのこうのと言っているのは高さが必要だからです。中心に関しては感覚で分かる場合もありますが都合上省きます。ということで点Pを導出します。

法線の傾きは$-\dfrac{1}{3}$なので、

$$\begin{cases}y=-\dfrac{1}{3} x \\x^2+y^2=9\end{cases}$$

$x$が小さいほうを採用して

$$(x,y)=(-\dfrac{9}{\sqrt{10}},\dfrac{3}{\sqrt{10}})$$

これで点と直線の距離で線分PRの長さが分かりますね

$$(線分PR)=\dfrac{|3(-\frac{9}{\sqrt{10}})-\frac{3}{\sqrt{10}}-15|}{\sqrt{(-3)^2+1^2}}$$

よって、$\dfrac{15}{\sqrt{10}}+3$が分かりました。最後にABの長さを出して、

$$AB=\sqrt{2^2+6^2}=2\sqrt{10}$$

よって△ABPの面積の最大値は、

$$2\sqrt{10}×(\dfrac{15}{\sqrt{10}}+3)×\dfrac{1}{2}=15+3\sqrt{10}$$

[3]-(3)では点Pが動くのでそれをパラメータ表示します($s,t$とかにしておきます)。そのうえで成立する式が2つ出来ますね。重心に関するものと円状を通る、という条件のふたつです　重心を$(X,Y)$と置きます

$$\begin{cases}s^2+t^2=9\\X=\dfrac{s+5+7}{3},Y=\dfrac{t+0+6}{3}\end{cases}$$

これで$s,t$が消せるので

$$(3X-12)^2+(3Y-6)^2=9$$

$$∴ (x-4)^2+(y-2)^2=1$$

なるべく簡単に求められるように回答をしましたが他にもあるかもしれないので

いろいろ考えてみた方が良いかもしれません

万が一誤植等あれば教えて下さると助かります。