Если система такая:
2x1 + 2x2 + x3 = 5
2x1 + 3x2 + x3 = 1
2x1 + x2 + 3x3 = 11
то решение x1 = 6, x2 = -4, x3 = 1

Чтобы показать, что векторы a, b, c образуют базис, надо доказать, что определитель матрицы, составленной из координат этих векторов, отличен от 0.
А затем найти p, q, r, при которых
d = p * a + q * b + r * c
Получим систему из трех уравнений с тремя неизвестными.