Светлана, без паники!

Спокойно выложите сюда задачи с полными условиями. В крайнем случае Вас пошлют изучать примеры.

В первом уравнении надо несколько раз дифференцировать. Понятно, что как только попадется y в отрицательной степени, говорить об определенности производной в окрестности (0,0) сложно.

Особые точки исследуются стандартно. Находите собственные значения соответствующей матрицы и выясняете, какая особая точка. (стр. 33-35 http://u-pereslavl.botik.ru/~trushkov/ode/ode.pdf)

Выделить область существования и единственности тоже просто. В формулировке теоремы Коши-Липшица говорится об основном отрезке, на котором определено решение задачи Коши. Он находится явно по простому алгоритму. Собственно, его и надо найти.
(стр. 16)

Теоремы Ляпунова (стр. 50), Рауса-Гурвица (стр. 124) и Михайлова (стр. 127) относятся к теории устойчивости.