1) (x^2-y^2+x)dx=x(2y-1)dy

это д.у в полных дифференциалах. Но при проверке этого не получается, dP по dy не равно dQ по dx. Это можно как-то преобразовать и решить или здесь ошибка в записи уравнения?

2) y''' = 1- (y')^2

здесь понижаем порядок, y' заменяем на Р, тогда вместо y''' у нас получается P'', то есть
P'' = 1- P^2,

а какую дальше замену вводить, чтобы понизить порядок P''?

1)Возможно,нужно домножить обе части на какле-то выражение так, чтобы это условие стало выполнятья.
2)P'=z(P), P''=z'*z.