函数f(f(x))的性质

1. 若 $f(f(x))$ 存在唯一不动点，则 $f(x)$ 也存在唯一不动点。

2. $f$ 在 R 上连续，证明 $f(x)$ 严格单调与 $f(f(x))$ 严格单调等价。

   首先容易推出 $f(x)$ 严格单调 $f(a)</>f(b),f(f(a))<f(f(b))$ 于是 $f(f(x))$ 严格单调。

   若 $f(f(x))$ 严格单调而且 $f(x)$ 不严格单调，则能够推出 $\exists a\not=b,f(a)=f(b)$，则 $f(f(a))=f(f(b))$，矛盾。因此两者等价。

3. $f(f(x))=x$：$f^{-1}=f$

   不可以有周期，可以有极值点，可以处处不连续，比如 $f(x)=x,x\in Q;-x,else$。可以类似于 $f(x)=1/x,x\not=0;0,x=0$，也可以是 $f(x)=x,x\in Q;1/x,else$，仅在两点连续。

4. $f(f(x))=x,f(x)\in C(R)$，怎么构造，首先我们想到 $f(x)=\pm x$，接着也可以发现 $f(x)=-ax,x\ge0;-(1/a)x,x<0$。这是关于 $y=x$ 对称的。这样我们就发现一个单点不可导的函数。我们甚至可以构造一个 $f(x)=-x+(\sqrt{1-\{x\}^2}-(1-\{x\}))$ 之类的函数，无穷多点不可导。

   当然，在连续的条件下，$f(x)$ 没有极值。根据极值的定义，设 $f(x)$ 在 $x_0$ 的邻域有定义，若 $\exists \delta >0,\forall x \in (x_0-\delta,x_0+\delta)$，有 $f(x) \le /\ge f(x_0)$，则 $x_0$ 是 $f(x)$ 的极大值/极小值点。根据这个定义加上连续函数的介值性，可以推出有两点函数值相等，于是矛盾。

关于反函数

$\forall x_1\not=x_2,f(x_1)\not=f(x_2),D_{f^{-1}}=R_f,\forall x \in D_f,f^{-1}(f(x))=x$ 是反函数的定义吗，不是的，还要求 $R_{f^{-1}}=D_f$，如果不是这样的话，构造函数 $f(x)=\arctan x$，$f^{-1}(x)=\tan x,x\in(-\pi/2,\pi/2);0,else$，就是反例。