Здравствуйте!
суть задачи состоит в следующем: даны координаты(х,у) трех вершин треугольника, и дана четвертая координата точки. требуется определить принадлежит ли точка треугольнику или нет.
у меня в принципе задача решена , но только для всех треугольиков кроме прямоугольных. Т.к. я действовал по следующему алгоритму решения данной задачи: я находил уравнения трех прямых которые образуют треугольник, т.е. находил угол наклона(к) к=(у1-у2)/(х1-х2) и так далее... вот здесь то и скрывается подвох... если задать координаты прямоугольного треугольника, то получается деление на ноль... вот я и не могу от этого избавиться. подскажите, как действовать?

Например так.
Соеденим нашу точку со всеми вершинами теугольника, и посчитаем сумму площадей получившихся маленьких треугольников (например по формуле герона). Дальше сравниваем её с площадью исходного треугольника. Если они совпадают, то точка внутри ли на границе треугольника. если больше, то точка снаружи. Если площади совпадают, то хорошо бы проверить, а не лежит ли наша точка в какой-нибудь из вершин или на границе. Реальзовать это просот: три ифа - проверка на совпадение данной точки с вершинами, и ещё три ифа : проверка того, что все площади мелких треугольников не нулевые. (Если какая-то из них нулевая, то точка на соответствующей границе). Вот и всё.