Путаю я. Длина вектора в квадрате, как я это уже вспомнил - это сумма разностей координат по шкалам X,Y и Z.
А не сумма сумм (как я это сперва подумал). Я искал я именно что длину вектора. Переделал всю задачу с использованием "новой" для моего склероза формулы. Ответ сошелся с вашим. Благодарствую.