Я расскажу:
Три точки в пространстве заданы(есть координаты x,y,z): по ним я нашёл плоскость, к которой принадлежат все три точки. Есть также точка в пространстве, не лежащая в плоскости. У треугольника, образованного тремя точками есть нормаль, которая перпендикулярна плоскости, в которой лежит треугольник. По идее мне надо провести нормаль от некоторой точки в плоскости к точке в пространстве и проверить, находится ли конец нормали в треуогльнике или нет.