写真の問題の(3)についてですが、わからないことがあります。

・なぜ①と②の式を連立するのですか？

(1),(2)において面積$S$を$x_1+2y_1=k$の式を使って求めてますね。

だからこの$S$の式を使って最大値を求めるためには、点$(x_1,y_1)$が円$C$上の点である、ということと$x_1+2y_1=k$を同時に満たす必要があります。

・①と②を整理したものの判別式≧0となっていますがなぜ①と②を共に満たすx1は必ず存在すると言えるのでしょうか？

連立方程式に計算において二次方程式ができますね。よって、「二次方程式が実数解をもつ=連立方程式を満たす」ので判別式$D\geqq0$を使えば連立方程式が解をもつことがわかります。

・②の式と赤丸の図から1<(k/2)とkの範囲が定まりますが…

上で判別式を使いましたね。このとき$D=0$というのは$x_1+2y_1=k$が円$C$に接する、つまり青い範囲の一番上を表しますから、このとき判別式の計算から$k=2\sqrt{2}$です。よって質問されているような天井というのは、判別式で済んでいる、というのが答えです。