この問題の条件で、s≧0、t≧0というのがありますが、半直線に終点はないのですか？

s'とt'に関する条件はs≧0, t≧0, 0≦t'<s', s'-t'=1です。したがって、s'は1以上の任意の値を取ることができ、半直線に終点はありません。

以下のように式変形するとイメージの助けになるかもしれません。

$$\overrightarrow{OP}=\dfrac{s'\overrightarrow{OA'}-t'\overrightarrow{OB'}}{-t'+s'}$$

$$=\overrightarrow{OB'}+\dfrac{s'}{s'-t'}(\overrightarrow{OA'}-\overrightarrow{OB'})$$

$$\overrightarrow{B'P}=\dfrac{s'}{s'-t'}\overrightarrow{B'A'}$$

$$=s'\overrightarrow{B'A'}$$

先に述べたとおり1≦s'ですので、点PはA'を端点とするB'と反対方向に伸びる半直線上を動きます。