Подскажите пожалуйста как это решается?
Дана система векторов a1, a2 , a3 , a4 , a5 , a6 в которой a3(0,1,1,2), a4(1,1,1,3) , a4(1,0,-2,-1), a6(1,0,1,2) . Дополнить линейно независимую часть a1, a2 до базиса системы векторов a1, a2 , a3 , a4 , a5 , a6 и все векторы, не вошедшие в базис, разложить по базисуa1(9,11,-1,19), a2(5,3,-5,3)

Т.е. вам надо из указанной системы векторов a3 , a4 , a5 , a6 выбрать линейно независимые.
Как можно поступить, составить матрицу из координат заданных векторов и найти ее ранг, который будет = количеству линейно независимых векторов.

получается ранг равен 3. и как дальше быть? т.е три независимых вектора

Т.е. да, какие именно?

a1. a2. a3

А как тогда разложить вектора а4, а5 и а6 по базису?

Надо найти разложение вектора с(координаты заданы) по базису х(..) и у(..).
Пусть искомое разложение имеет вид:
с=р1х+р2у, где р1,р2 - неизвестные константы, тогда подставляете координаты векторов и находите р1 и р2.

как это сделать если размерность 3х4?

размерность чего?