[tc59][T11/507 Toán học & tuổi trẻ số 507, tháng 9 năm 2019] Tìm tất cả các hàm $f: \mathbb R \rightarrow \mathbb R$ thỏa mãn \[f\left((x+z)(y+z)\right)=\left(f(x)+f(z)\right) \left(f(y)+f(z)\right)\] với mọi $x,y,z \in \mathbb{R}$.

Lời giải

Giả sử $f$ là hàm số thỏa mãn điều kiện \[f\left((x+z)(y+z)\right)=\left(f(x)+f(z)\right) \left(f(y)+f(z)\right), \,\, \forall x,y,z \in \mathbb{R}.\tag{1}\] Nếu $f$ là hàm hằng, nghĩa là $f(t)=c$ là hàm số thỏa mãn.
Khi đó trong $(1)$ thay các biến $(x,y,z)$ bởi $(0,0,0)$ ta được $$f(0)=4[f(0)]^2 \Leftrightarrow \left[ \begin{array}{l}f(0)&=0\\f(0)&=\dfrac{1}{4}.}$$ Thử lại thấy các hàm $f(x)=0,\forall x\in \mathbb{R}$ và $f(x)=\dfrac{1}{4},\forall x\in \mathbb{R}$ đều thỏa mãn.
Xét trường hợp $f$ không là hàm hằng.
Trong $(1)$, thay các biến $(x,z)$ bởi $(0,0)$ ta thu được $$f(0)=2f(0)(f(y)+f(0)), \forall y \in \mathbb{R}.$$ Do $f$ không làm hàm hằng nên tồn tại $y$ sao cho $f(y)\ne \dfrac{1}{2}-f(0)$, suy ra $f(0)=0.$
Trong $(1)$, thay $z$ bởi $-x$ ta được \[0=(f(x)+f(-x))(f(y)+f(-x)),\forall x, y \in \mathbb{R}.\tag{2}\] Vì $f$ không làm hàm hằng nên từ $(2)$ suy ra $$f(x)+f(-x)=0, \forall x \in \mathbb{R},$$ suy ra $f(x)$ làm hàm lẻ trên $\mathbb{R}$. Trong $(1)$, thay các biến $(x,y,z)$ bởi $(t,t,t)$ ta thu được \[f(4t^2)=4(f(t))^2, \forall t \in \mathbb{R}.\tag{3}\] Suy ra $f(t)\ge 0$ khi $t > 0$.
Vì $f$ là hàm lẻ trên $\mathbb{R}$ nên chỉ cần xét $f(t)$ khi $t > 0$.
Trong $(1)$, thay các biến $(y,z)$ bởi $(x,y)$ ta thu được: \[f((x+y)^2)=(f(x)+f(y))^2, \forall x,y \in \mathbb{R}.\tag{4}\] Kết hợp $(3),(4)$ ta được

$4f^2\left(\dfrac{x+y}{2}\right)=f\left[4.\left(\dfrac{x+y}{2}\right)^2\right]=f\left[(x+y)^2\right]=\left[f(x)+f(y)\right]^2$

Suy ra $f\left(\dfrac{x+y}{2}\right)=\dfrac{f(x)+f(y)}{2}, \forall x,y \in \mathbb{R}.$
Kết hợp với $f(0)=0$, suy ra $f(x+y)=f(x)+f(y), \forall x,y \in \mathbb{R}$. $ (5)$
Do $f(t)\ge 0$ với $t > 0$ nên từ $(5)$ suy ra $f(t)$ là hàm cộng tính đơn điệu tăng trên $\mathbb{R}^+$ và khác hằng nên $f(t)=at,a > 0$. Thế vào $(1)$, ta thu được $a=1$, suy ra $f(t)=t$, thử lại thấy thỏa mãn. Vậy tất cả các hàm cần tìm là $f(t)=0,f(t)=\dfrac{1}{4},f(t)=t, \forall t \in \mathbb{R}.$