Bước 1 — Lập hàm thể tích theo cạnh ô vuông cắt.
Gọi cạnh tấm bìa ban đầu là $a$ (cm), cạnh mỗi ô vuông cắt ở 4 góc là $x$ (cm), với $0 < x < a/2$.
Sau khi gập: đáy hộp là hình vuông cạnh $(a - 2x)$, chiều cao $x$.
Thể tích: $V(x) = x(a - 2x)^2$.
Bước 2 — Điều kiện để thể tích lớn nhất.
$V'(x) = (a - 2x)^2 + x\cdot 2(a - 2x)(-2) = (a - 2x)(a - 6x)$.
$V'(x) = 0 \Leftrightarrow x = \dfrac{a}{2}$ (loại vì khi đó hộp dẹt, $V = 0$) hoặc $x = \dfrac{a}{6}$.
Xét dấu $V'$: $V$ tăng trên $\left(0; \dfrac{a}{6}\right)$ rồi giảm trên $\left(\dfrac{a}{6}; \dfrac{a}{2}\right)$ ⇒ thể tích đạt giá trị lớn nhất tại $x = \dfrac{a}{6}$.
Bước 3 — Đảo ngược: từ cạnh cắt tối ưu suy ra cạnh tấm bìa.
Đề cho cạnh cắt cho thể tích lớn nhất là $x_0 = 3$ cm, mà điều kiện tối ưu là $x_0 = \dfrac{a}{6}$.
$\Rightarrow a = 6x_0 = 6\cdot 3 = 18$ cm.
Bước 4 — Tính thể tích lớn nhất.
$V_{max} = V(x_0) = x_0(a - 2x_0)^2 = 3\cdot(18 - 2\cdot3)^2 = 3\cdot12^2 = 432$ cm³.
(Có thể viết gọn $V_{max} = x_0(6x_0 - 2x_0)^2 = x_0(4x_0)^2 = 16x_0^3$.)
Kết luận: $V_{max} = 432$ cm³.