Действительно, совершенно дурные числа получаются. Проверьте еще раз координаты вершин.