Задачка, насколько я понял, повышенной сложности... По крайней мере, три дня решаю, а всё никак не получается

Посоветуйте, пожалуйста, что можно делать, или подсказку какую-нибудь дайте. Просто обратиться уже не к кому.
1. Чаще всего такие определеители вычисляются привендением к верхне- или нижнетреугольному виду. Попробуйте это сделать, но для "простоты" выпишите еще пару строк (т.к. у вас записаны только первая и n).
2. Рассмотрите частный случай, когда n=4, т.е. получите определеитель 4-го порядка. Вычислите его и посмотрите как поступить с заданным.