有用な方針は質問者さんの言う通り①だと思います。下の解答ではc=1の場合を背理法を使って処理しています。簡単のために微分していますが微分しなくてもできます。
(解答)
両辺微分する。
f(x+1)−f(x)=cf′(x)⋯➀
nを2以上の自然数として、f(x)がn次多項式であると仮定すると、
f(x)=anxn+an−1xn−1+⋯+a0と書ける。(an=0)
cf′(x)=c(nanxn−1+(n−1)an−1xn−2+⋯+a1)
f(x+1)−f(x)
=an(x+1)n+an−1(x+1)n−1+⋯+a0
−anxn−an−1xn−1−⋯−a0
二項定理より、
n次の係数:0
n−1次の係数:nan
n−2次の係数:21n(n−1)an+(n−1)an−1
を得る。
➀は恒等式であるから、各次数の係数は等しくなる。
0=0
nan=cnan⋯②
21n(n−1)an+(n−1)an−1=c(n−1)an−1⋯③
②及びan=0より、c=1となるが、③より21n(n−1)an=0、
an=0となり、an=0に矛盾する。
背理法により、f(x)は高々1次の多項式であることがわかる。
このことから、f(x)=ax+bと置くことができ、問題の式に代入すると、
∫xx+1(at+b)dt=c(ax+b)
ax+2a+b=cax+cb
これが恒等式となるのは、
a=caかつa+2b=2cb
ここでa=0と仮定すると、
c=1かつa+2b=2b
a=0となるため矛盾が生じる。
よって、a=0
f(x)=b(定数)である。🔳
最後のa=0の証明にも背理法を使いましたが、このくらいなら2回目の背理法何て使わずに場合分けをしたほうが分かりやすかったかもしれません。