на ось Х: Ха - Qcos60 - Xв = 0
на ось У: Уа - Qsin60 - Ув = 0
сумма моментов от точки А : Хв*2 + Ув*6 - М - Qsin60*2 - Qcos60*2 помогите дорешать, может я где ошибся

(IMG:style_emoticons/default/smile.gif)
пока только предположу. Вы, скорее всего, ошиблись в рисунке - в т. А прикреплён стержень, а не часть балки. Проверьте,т.к. это разные вещи. Для стержня сила направлена строго вдоль его оси и вы уже знаете направление силы реакции в точке А. Поэтому в т. А будет только одна сила, а не две составляющих, как у вас в решении. Тогда получится 3-и уравнения с тремя неизвестными и система решится.