О(а) обозначает число, абсолютная величина которого не превосходит константу, умноженную на |a|. Т.е. мы можем написать, что 1+2+3+..+n=O(n^10) и это будет верно.
Но почему его можно сравнить с 1/n^2 я не понимаю, по-моему первый ряд всё-таки больше. Хотя я тоже получил, что он сходится, только как знакопеременный.