теперь точно уверен что есть ошибка т.к. упростил методом Гаусса систему и пришел к более легкой симплекс таблице. получил ответ
(4;0;0) Maple был прав но ошибку в исходном решении найти не могу