Косинус 3х не надо разбивать на сумму углов, надо просто применить формулу косинуса двойного угла.