数学です。

計算を見やすくするため、$\alpha :=\frac{n\pi}{p/4}$と置きます。

第二項が$0$であることと合わせて$a_n$を書くと、$$a_n=\frac{1}{p/4}\biggl(\int_{-p/4}^{-p/6}\cos(\alpha x)dx+\int_{p/6}^{p/4}\cos(\alpha x)dx\biggr)$$となります。

対称性を使って少し計算を楽にします。$\cos$は偶関数($\cos(-t)=\cos(t)$)なので、$$\int_{-p/4}^{-p/6}\cos(\alpha x)dx=\int_{p/6}^{p/4}\cos(\alpha x)dx$$

となるので$a_n$は$$a_n=\frac{2}{p/4}\int_{p/6}^{p/4}\cos(\alpha x)dx$$とまとめられます。

合成関数の微分から、

$$\int \cos(\alpha x)=\frac{1}{\alpha}\sin(\alpha x)$$

となるので$$a_n=\frac{2}{p/4}\frac{1}{\alpha}\bigl[\sin(\alpha x)\bigr]_{p/6}^{p/4}$$

ここで、$\frac{\alpha p}{4}=n\pi,\frac{\alpha p}{6}=\frac{2n\pi}{3}$だから、

$$a_n=\frac{2}{n\pi}\Bigl(\sin (n\pi)-\sin \bigl(\frac{2n\pi}{3}\bigr)\Bigr)$$

となります。$n$が整数のとき、

$$\sin(n\pi)=0$$

$$\sin\bigl(\frac{2n\pi}{3}\bigr)=\left\{\begin{array}{ll}0 & (n\equiv 0(mod3)) \\\frac{\sqrt{3}}{2} & (n\equiv 1(mod3)) \\\frac{-\sqrt{3}}{2} & (n\equiv 2(mod3))\end{array}\right.$$

となるので、整数$m$を用いて$$a_{3m}=0$$

$$a_{3m+1}=-\frac{\sqrt{3}}{(3m+1)\pi}$$

$$a_{3m+2}=\frac{\sqrt{3}}{(3m+2)\pi}$$

と書けます。

**対称性についての補足**

偶関数$f$について、区間$[-a,-b]$における積分

$$\int_{-a}^{-b}f(x)dx(=:Iと置く)$$

を考えます。$t=-x$と置換すれば、$dt=-dx$、積分区間は$[a,b]$になり、$I$は

$$I=\int_{a}^{b}f(-t)(-1)dt$$

となり、$f(-t)=f(t)$より、$$I=\int_{b}^{a}f(t)dt$$となります。(積分変数はダミー変数なので最終の式の$t$は$x$に変えても成り立ちます。)