(2)で、高さの比で解いたのですが、どうやって解答欄を書けば良いかがわかりません。

「高さの比」の時点で意味が分からないのですが。

あと、「（1）の答えを6分の5倍する」だと$\overrightarrow{OR}$にはならないと思います。

一応解答付けときます。

(1)与えられた条件より

$$\begin{align*}\overrightarrow{OP}&=\dfrac{1}{3+1}\overrightarrow{OD}+\dfrac{3}{3+1}\overrightarrow{OE}\\&=\dfrac{1}{3+1}\cdot\dfrac{1}{1+2}\overrightarrow{OA}+\dfrac{3}{3+1}\cdot\left(\dfrac{2}{1+2}\overrightarrow{OB}+\dfrac{1}{1+2}\overrightarrow{OC}\right)\\&=\dfrac{1}{12}\overrightarrow{OA}+\dfrac{1}{2}\overrightarrow{OB}+\dfrac{1}{4}\overrightarrow{OC}\end{align*}$$

(2)$\overrightarrow{OR}$は定数$k\gt0$を用いて$\overrightarrow{OR}=k\overrightarrow{OP}$と表せるので

$$\begin{align*}\overrightarrow{OR}&=k\overrightarrow{OP}\\&=\dfrac{k}{12}\overrightarrow{OA}+\dfrac{k}{2}\overrightarrow{OB}+\dfrac{k}{4}\overrightarrow{OC}\end{align*}$$

また、平面$ABC$上の任意の点$Q$について

$$\overrightarrow{OQ}=s\overrightarrow{OA}+t\overrightarrow{OB}+u\overrightarrow{OC}\ ,\ s+t+u=1$$

であるから、これを$\overrightarrow{OR}$について考えれば

$$\begin{align*}\dfrac{k}{12}+\dfrac{k}{2}+\dfrac{k}{4}&=1\\k&=\dfrac{6}{5}\end{align*}$$

となる。よって、

$$\begin{align*}\overrightarrow{OR}&=k\overrightarrow{OP}\\&=\dfrac{1}{12}\cdot\dfrac{6}{5}\overrightarrow{OA}+\dfrac{1}{2}\cdot\dfrac{6}{5}\overrightarrow{OB}+\dfrac{1}{4}\cdot\dfrac{6}{5}\overrightarrow{OC}\\&=\dfrac{1}{10}\overrightarrow{OA}+\dfrac{3}{5}\overrightarrow{OB}+\dfrac{3}{10}\overrightarrow{OC}\end{align*}$$