Bước 1 — Mô hình hoá.
Gọi $x$ (cm) là cạnh ô vuông cắt ở mỗi góc. Sau khi gấp, đáy hộp là hình vuông cạnh $(6 - 2x)$, chiều cao $x$.
Thể tích: $V(x) = x(6 - 2x)^2$.
Bước 2 — Điều kiện thực tế (tập xác định).
Cạnh đáy phải dương: $6 - 2x > 0$ và $x > 0$ ⇒ $0 < x < 3$ (ràng buộc hình học).
Bước 3 — Tính $V'(x)$ và giải $V'(x) = 0$.
$V'(x) = (6 - 2x)^2 + x \cdot 2(6 - 2x)(-2) = (6 - 2x)(6 - 6x)$.
$V'(x) = 0 \Leftrightarrow x = 3$ (biên, bị loại vì khi đó $V = 0$) hoặc $x = 1$.
Bước 4 — Lập bảng biến thiên trên $\left(0; 3\right)$.
$V'(x)$ đổi dấu từ $+$ sang $-$ khi $x$ vượt qua $x = 1$ ⇒ $V$ đạt cực đại, cũng chính là giá trị lớn nhất, tại $x = 1$.
$V_{\max} = 1(6 - 2)^2 = 16$ (cm³).
Kết luận: Thể tích hộp lớn nhất khi $x = 1$ cm (khi đó $V_{\max} = 16$ cm³).