Обозначим сторону маленького квадратика за а.
Тогда у коробки размеры будут (30-2а)х(30-2а)ха.
Теперь находим экстремумы функции обычным методом.