Нашла вот эту формулу для проверки верности точек. (выделена красным)

Только получается, что ни одна точка не подходит. Проверьте, пожалуйста, где ошибка?