вторая задача совершенно простая:
(2a)^2-4b >= 0 должно быть, чтобы корни были вещественные
т.е. b<=a^2
строите график b=a^2 (ось абсцисс a, ось ординат b )
рисуете квадрат [0, 1] по a и [0, 1] по b

а дальше нужно найти площадь той части этого квадрата, которая лежит ниже графика, т.е. int (0, 1) a^2 da = 1/3