Bài toán 28.[IMC 2012, Day 1, Problem 4] Cho hàm số $f:\mathbb{R}\rightarrow \mathbb{R}$ là một hàm số liên tục và có đạo hàm thỏa mãn điều kiện $$f'(t) > f\left(f(t)\right),\,\, \forall t\in \mathbb{R}.$$ Chứng minh rằng $f\left(\left(f(t)\right)\right) \leq 0$, với mọi $t\geq 0$. (Đề xuất bởi Tomas Bárta, Đại học Charles, Prague)

Bài toán 28.[IMC 2012, Day 1, Problem 4] Cho hàm số $f:\mathbb{R}\rightarrow \mathbb{R}$ là một hàm số liên tục và có đạo hàm thỏa mãn điều kiện $$f'(t) > f\left(f(t)\right),\,\, \forall t\in \mathbb{R}.$$ Chứng minh rằng $f\left(\left(f(t)\right)\right) \leq 0$, với mọi $t\geq 0$. (Đề xuất bởi Tomas Bárta, Đại học Charles, Prague)

Lời giải

Chúng ta phát biểu và chứng minh những bổ đề sau:
Bổ đề 1. Hoặc $\lim\limits_{t\to +\infty} f(t)$ không tồn tại, hoặc $\lim\limits_{t\to +\infty} f(t)\neq +\infty$ . Giả sử rằng giới hạn của nó là $+\infty$. Khi đó, tồn tại $T_1 > 0$ sao cho với mọi $t > T_1$, chúng ta có $f(t) > 2$. Sau đó, tồn tại $T_2 > 0$ sao cho $f(t) > T_1$ với mọi $t > T_2$. Vì vậy, $f'(t) > f\left(f(t)\right) > 2,\forall t > T_2$. Lúc này, sẽ tồn tại số $T_3 > 0$ sao cho $f(t) > t,\forall t > T_3$. Vậy nên, $f'(t) > f\left(f(t)\right) > f(t),\dfrac{f'(t)}{f(t)} > 1$. Lấy tích phân hai vế, chúng ta có $\ln \left(f(t)\right)-\ln (T_3) > t-T_3$, hay $f(t) > T_3\mathrm{e}^{t-T_3},\forall t > T_3$. Lấy tích phân một lần nữa từ $T_3$ đến $t$, chúng ta sẽ có $\mathrm{e}^{-f(T_3)}-\mathrm{e}^{-f(t)} > (t-T_3)T_3\mathrm{e}^{-T_3}$. Vế phải tiến đến vô cùng, nhưng vế trái bị chặn trên, vô lý. Chúng ta thu được kết quả như Bổ đề.
Bổ đề 2. Với mọi $t > 0$, chúng ta có $f(t) < t$. Theo Bổ đề 1, sẽ có một số thực $t$ sao cho $f(t) < t$. Chính vì vậy, nếu điều chúng ta giả sử là sai, sẽ tồ tại một số $t_0 > 0$ nào đó sao cho $f(t_0)=0$.

1. {\it Trường hợp 1}: Tồn tại một số $t\geq t_0$ sao cho $f(t) < t_0$. Đặt $T=\inf \{t\geq t_0:f(t) < t_0\}$. Vì tính liên tục của $f$, chúng ta có $f(T)=t_0$. Khi đó, $f'(T) > f\left(f(T)\right)=f(t_0)=t_0 > 0$. Điều này có nghĩa rằng $f > f(T)=t_0$ ở lân cận bên phải, trái ngược với định nghĩa của $T$.
2. {\it Trường hợp 2}: $f(t)\geq 0,\forall t\geq t_0$. Khi đó, chúng ta có $f'(t) > f\left(f(t)\right)\geq t_0 > 0$. Vì vậy, $f'$ sẽ có một chặn dưới dương trên khoảng $(t_0;+\infty)$, điều này trái ngược với Bổ đề 1 chúng ta đã chứng minh phản biện trên.

Bổ đề 3. Bổ đề này gồm hai phát biểu như sau:
$(a)$ Nếu $f(s_1) > 0$ và $f(s_2)\geq s_1$, khi đó $f(s) > s_1,\forall s > s_2$.
$(b)$ Trong trường hợp cụ thể hơn, nếu $s_1\leq 0$ và $f(s_1) > 0$, khi đó $f(s) > s_1,\forall s > s_1 $. Giả sử rằng có một số giá trị $s > s_2$ sao cho $f(s)\leq s_1$ và đặt $S=\inf\{s > s_2:f(s)\leq s_1\}$. Vì tính liên tục của hàm số, chúng ta có $f(S)=s_1$. Tương tự với Bổ đề 2, chúng ta có $f'(S) > f\left(f(S)\right)=f(s_1) > 0$. Nếu $S > s_2$, khi đó, ở lân cận bên trái của $S$ chúng ta sẽ có $f < s_1$, trái ngược với định nghĩa của $S$. Nếu không, trong trường hợp $S=s_2$, chúng ta có $f > s_1$ trong lân cận bên phải của $s_2$, lại là một điều trái ngược nữa.
Phần $(b)$ là một hệ quả tất yếu, nếu như chúng ta đặt $s_2=s_1$.
Trở lại bài toán, với sự hỗ trợ của những Bổ đề trên, chúng ta sẽ chứng minh phát biểu của đề bài như sau.
Giả sử ngược lại, tồn tại một số $t_0 > 0$ sao cho $f\left(f\left(f(t_0)\right)\right) > 0$. Đặt $t_1=f(t_0)$, $t_2=f(t_1)$ và $t_3=f(t_2) > 0$. Chúng ta chứng minh rằng $0 < t_3 < t_2 < t_1 < t_0$. Theo Bổ đề hai, chúng ta có $t_1$ và $t_2$ dương. Nếu $t_1 < 0$, $f(t_1)\leq 0$ ( nếu $f(t_1) > 0$, chọn $s=t_1$ ở Bổ đề $3(b)$ chúng ta sẽ được $f(t_0) > t_1$, mâu thuẫn). Nếu $t_1=0$, chúng ta có $f(t_1)\leq 0$ theo bổ đề 2 và tính liên tục của hàm $f$. Chính vì vậy, nếu $t_1\leq 0, t_2\leq 0$. Nếu $t_2=0, f(t_2)\leq 0$ theo Bổ đề 2 và tính liên tục của hàm $f$ ( mâu thuẫn, vì $f(t_2)=t_3>0$). Nếu $t_2 < 0$, theo Bổ đề $3$$(b)$, $f(t_0)_ > t_2$, nên $t_1 > t_2$. Áp dụng Bổ đề $3$$(a)$, chúng ta có $f(t_1) > t_2$ (mâu thuẫn). Đến đây, chúng ta đã chứng minh được $0 < t_3 < t_2 < t_1 < t_0$. Theo Bổ đề $3a)$, ($f(t_1) > 0, f(t_0)\geq t_1$), chúng ta có $f(t) > t_1$ với mọi $t > t_0$, và tương tự, $f(t) > t_2$ với mọi $t > t_1$. Từ đây, chúng ta cũng có với $t > t_0$, $f'(t) > f\left(f(t)\right) > t_2 > 0$. Vì vậy, $\lim\limits_{t\to +\infty}f(t)=+\infty$, mâu thuẫn. Điều mâu thuẫn này cho chúng ta kết quả $f\left(f\left(f(t)\right)\right)\leq 0,\forall t > 0$. Với $t=0$, kết quả này vẫn đúng nhờ vào tính liên tục của hàm $f$.