Кажется понял, я подставил неправильно, получается матрица:

|х+11___y+20___z+20|
|_17_____-2______-1_| = 0
|__4_____-3_____-2__|

При этом полукчаем X + 30Y - 43Z - 249 = 0,

а дальше B = 30 C = -43 D = -249

Спасибо, tig81, ты с самого начала намекала! Теперь Всё понятно!