В общем я составил такие ур-ия:
1/2*(a+NM)*(H-h)=1/2*(c+NM)*h

1/2*(a+NM)*(H-h)+1/2*(c+NM)*h=1/2*(a+c)*H

Где h - высота нижней трапеции, H - высота большой трапеции, NM - искомый отрезок.
a и с - данные основания.