Bonsoir,
S est dérivable sur [3,12]
[tex]S'(x)=8x-\frac{1728}{x^2} = \frac{1}{x^2}\left(8x^3-1728\right)\\\\
S'(x)>0 \Longleftrightarrow \frac{1}{x^2}\left(8x^3-1728\right) >0 \Longleftrightarrow 8x^3-1728>0 \Longleftrightarrow x^3>216 \Longleftrightarrow \boxed{x>6} \\\\
S'(x)<0 \Longleftrightarrow \frac{1}{x^2}\left(8x^3-1728\right) <0 \Longleftrightarrow 8x^3-1728<0 \Longleftrightarrow x^3<216 \Longleftrightarrow \boxed{x<6}[/tex]
Donc S est décroissante sur [3,6] puis croissante sur [6,12].
Le volume est minimal pour x = 6