"0,1x+1" основание логарифма.
Основание логарифма > 0 и не равно 1.
Т.е. п.I. надо пересмотреть.

Теперь насчет п.II.
На мой взгляд производная здесь ни к чему.
Надо просто решить уравнение (найти х).
x*(x^2+2*a*x)=a^2*(7*x-4*a)
x*(x^2+2*a*x)-a^2*(7*x-4*a) =0
Раскройте скобки, получите кубическое уравнение, один из корней равен а.
Разложите на множители и т.д. и т.п.

А уж потом про то, как "связать параметр a с x"