f=X1^2+X2^2+X3

при условиях

X1+X2+X3=4
2X1-3X2=12

Сначала находим дифференциалы как по самой функции, так и по обеим функциям ограниченмй.
df/dx1=2x1
df/dx2=2x2
df/dx3=1

dF1/dx1=1
dF1/dx2=1
dF1/dx3=1

dF2/dx1=2
dF2/dx2=-3

Затем составим систему:
2x1+a1+2a2=0
2x2+a1-3a2=0
1+a1=0
x1+x2+x3-4=0
2x1-3x2-12=0

Отсюда получим систему 1:
2x1+1+2a2=0
2x2+1-3a2=0
x1+x2+x3-4=0
2x1-3x2-12=0

Теперь сравним 2х1 в пераом и последнем уравнениях.
3х2-12+2а2+1=0
3х2+2а2-11=0
а2=(3х2-11)/2

Подставим а2 в 3 уравнение системы 1.
2х2-4,5х2+1,5+1=0
х2=-1

Работая с 5 уравнением системы 1 получим:
2х1+3-12=0
х1=4,5

х3 остается 0,5.

Итак,
х1=4,5, х2=-1, ч3=0,5.
Подставим в искомое уравнение, получим 21,75