問題の3の解き方を教えてください！

$$\begin{aligned}f(x)&=x^2-4ax+4a+8 \\&=(x-2a)^2-4(a+1)(a-2)\end{aligned}$$

$f(1)=9>0$ なので、$f(0)=4a+8<0\iff a<-2$ であれば、$0<x<1$ の範囲で $x$ 軸とちょうど $1$ つの共有点をもつ。

$f(0)=4a+8>0\iff a>-2$ のとき、$0<x<1$ の範囲で $x$ 軸と少なくとも $1$ つの共有点をもつための必要十分条件は、

$$\begin{aligned}&0<2a<1 \text{ かつ }-4(a+1)(a-2)<0 \\\iff &0<a<\dfrac{1}{2} \text{ かつ }a<-1,2<a\end{aligned}$$

となって、これを満たす実数 $a$ は存在しない。

以上より、求める範囲は $a<-2$ である。

解の存在範囲という題材で、

判別式(=頂点の $y$ 座標)・軸(=頂点の $x$ 座標)・区間の端点の $3$ つに注意することや、区間の端点が異符号の扱いなどをおさえておきたいところです。

有名問題なので理解しておくとよいと思います。