Câu 5.(3 điểm) [HSG chọn đội tuyển quốc gia TỈNH BẾN TRE 2019-2020] Tìm tất cả hàm số $f:\mathbb{R}\to \mathbb{R}$sao cho $f(f(x)+y)=f({{x}^{2}}-y)+4yf(x)$, với $x,y\in \mathbb{R}.$

Đặt $f(f(x)+y)=f({{x}^{2}}-y)+4yf(x)$ (1)
Với mọi $x\in \mathbb{R}$, thay $y=\dfrac{{{x}^{2}}-f(x)}{2}$ vào (1), ta được
$f\left( \dfrac{{{x}^{2}}+f(x)}{2} \right)=f\left( \dfrac{{{x}^{2}}+f(x)}{2} \right)+4\cdot \dfrac{{{x}^{2}}-f(x)}{2}\cdot f\left( x \right)$ .
Điều này tương đương với
$\dfrac{{{x}^{2}}-f(x)}{2}\cdot f\left( x \right)=0$ , với mọi $x\in \mathbb{R}.$
Từ đây, ta suy ra $f(0)=0.$ Thay $x=0$ vào (1), ta được
$f(y)=f(-y)$ với mọi $y\in \mathbb{R}$,
hay $f\left( x \right)$ là hàm chẵn.
Dễ thấy hàm $f\left( x \right)\equiv 0$với mọi $x\in \mathbb{R}$ thỏa đề.
Giả sử tồn tại $b$ để $f(b)\ne 0$. Ta chứng minh $f(a)=0\Rightarrow a=0.$ Thật vậy, giả sử tồn tại $a\in \mathbb{R}$ để $f(a)=0$,thay $x=a$ vào (1), ta có
$f(y)=f(-y+{{a}^{2}}),$ hay $f(-y)=f(-y+{{a}^{2}}),$ với mọi $y\in \mathbb{R}$.
Từ đây ta suy ra $f$ tuần hoàn với chu kì ${{a}^{2}}.$ Thay $y$ bởi $y+{{a}^{2}}$ vào (1), ta có
$\begin{align} & \,\,\,\,\,\,f(f(x)+y+{{a}^{2}})=f({{x}^{2}}-y-{{a}^{2}})+4(y+{{a}^{2}})f(x) \\ & \Leftrightarrow f(f(x)+y)=f({{x}^{2}}-y)+4(y+{{a}^{2}})f(x) \\ \end{align}$
Thay $x=b$ và so sánh với đẳng thức $f(f(b)+y)=f({{b}^{2}}-y)+4yf(b)$, ta suy ra $a=0$.
Vậy $f(a)=0\Leftrightarrow a=0.$ Từ $\dfrac{{{x}^{2}}-f(x)}{2}\cdot f\left( x \right)=0$ ta suy ra $f(x)={{x}^{2}}$ với mọi $x\ne 0$. Kết hợp với $f(0)=0$, ta suy ra $f(x)={{x}^{2}}$ với mọi $x\in \mathbb{R}.$
Thử lại, ta thu được hai nghiệm của phương trình là $f(x)={{x}^{2}},f(x)=0.$