Спасибо, получилось, что интеграл равен 0, значит система функций ортогональна
Когда стал проверять на ортонормированность, то получилось 1/6 вместо 1.Нажмите для просмотра прикрепленного файла