Посмотрите геометрическую вероятность. В любом учебнике по ТВ.

Найдите площадь заданного прямоугольника и площадь фигуры, координаты всех точек которой удовлетворяют заданному неравенству. Что это будет за фигура? Нарисуйте на плоскости. Искомая вероятность - отношение этих двух площадей.