文系は(2)まで

(1)\sqrt{2}=1.414\cdotsであるから
a_1= \left\langle\sqrt{2}\right\rangle = \sqrt{2}-1
a_2= \left\langle\frac{1}{\sqrt{2}-1}\right\rangle =  \left\langle\frac{\sqrt{2}+1}{2-1}\right\rangle=  \left\langle\sqrt{2}+1\right\rangle = \left\langle\sqrt{2}\right\rangle=a_1
帰納的に
 a_n = \sqrt{2}-1

(2)a_n = aのとき
a_{n+1}  = \left\langle\frac{1}{a}\right\rangle=a
\left\langle\frac{1}{a}\right\rangleの整数部分をm \ (m\geqq 0)とすると
\begin{align}
\left\langle\frac{1}{a}\right\rangle & = a \\
\frac{1}{a} - m & = a\\
a^2+ma-1 & = 0\\
\end{align}
f(a)=a^2+ma-1とおくと、aについての2次方程式a^2+ma-1=0
a\geqq\frac{1}{3}に実数解を持つための条件は、判別式D=m^2+4>0より、次の場合。
(\mathrm{i}) 軸 -\frac{m}{2} > \frac{1}{3} 、f\left (\frac{1}{3}\right)>0
(\mathrm{ii}) \  f\left(\frac{1}{3}\right) <0

(\mathrm{i})のとき
m<\frac{2}{3} \quad \therefore m = 0
また、
f\left(\frac{1}{3}\right) = \frac{1}{9}+\frac{m}{3}-1 >0 \quad \therefore m > \frac{8}{3}
これらを満たすmの値が存在しないので不適

(\mathrm{ii})のとき
f\left(\frac{1}{3}\right) = \frac{1}{9}+\frac{m}{3}-1 <0 \quad \therefore m < \frac{8}{3} \quad \therefore m=0,1,2
これをa^2+ma-1=0に代入する。a>\frac{1}{3}に留意して
m=0のとき、a=1よりa_1=0\ne1となるので不適。
m=1のとき、a=\frac{-1\pm\sqrt{5}}{2} \quad \therefore a=\frac{\sqrt{5}-1}{2}
このとき、
a_1=\frac{\sqrt{5}-1}{2}, \ a_2=\left\langle\frac{2}{\sqrt{5}-1}\right\rangle =\left\langle \frac{2(\sqrt{5}+1)}{5-1}\right\rangle =\left\langle \frac{\sqrt{5}-1}{2}+1\right\rangle=a_1
で確かに成立する。
m=2のとき、a=-1\pm\sqrt{2} \quad \therefore a = \sqrt{2}-1
これは(1)より成立する。
従って、求めるaの値は

a=\frac{\sqrt{5}-1}{2},\sqrt{2}-1

(3)k_1, \ p_1を整数とすると、
a_1=\left\langle\frac{p}{q}\right\rangle =\left\langle k_1 + \frac{p_1}{q}\right\rangle = \frac{p_1}{q} \quad (0 \leqq p_1 < q)
と表すことができる。ここでp_1=0ならば、a_1=0よりa_2=0
p_1>0のとき、k_2,q_2を整数とすると、同様にして
a_2=\left\langle\frac{1}{\frac{p_1}{q}}\right\rangle =\left\langle \frac{q}{p_1}\right\rangle =
\left\langle k_2 + \frac{q_2}{p_1}\right\rangle =\frac{q_2}{p_1} \quad (0 \leqq q_2 < p_1)
と表すことができる。ここでq_2=0ならば、a_2=0よりa_3=0
q_2>0のとき、これらを帰納的に考える。
1\leqq i \leqq q-1なるiについて
p_iまたはq_i0となるとき、a_i=0であるからq\leqq nについてa_n=0が成立する。
p_iまたはq_i0とならないとき、すなわち

(\mathrm{i})nが偶数のとき
0 < p_{n-1} < q_{n-2}< \cdots < p_1<q
であって、n=qのとき、
p_1\leqq q-1
q_2 \leqq q-2
\cdots
p_{q-1} \leqq q-(q-1)=1
よってq_qについては 0 \leqq q_q <p_{q-1} = 1 となるので q_q=0 \quad \therefore a_q=0
従ってq\leqq nについてa_n=0が成立する。

(\mathrm{ii})nが奇数のとき
0 < q_{n-1} < p_{n-2}< \cdots < p_1<q
であって、n=qのとき、
p_1\leqq q-1
q_2 \leqq q-2
\cdots
q_{q-1} \leqq q-(q-1)=1
よってp_qについては 0 \leqq p_q <q_{q-1} = 1 となるので p_q=0 \quad \therefore a_q=0
従ってq\leqq nについてa_n=0が成立する。

以上より示された。