Само уравнение я нашел, но что именно дальше! В ответе должно получиться 11, если верить книге.

Вот и осталось только найти длину отрезка отсекаемого плоскостью по оси Y от начало координат.

Уравнение плоскости в отрезках: x/a + y/b + z/c = 1
где a, b, c - величины отрезков, отсекаемых плоскостью на осях координат.

Я пытаюсь воспользоваться этой формулой.

И ещё b = − D / B, если верить этому, то b = -3, но ответ то 11 единиц.