ошибка Ваша в том, что сos38=AC/AB и только для прямоугольного треугольника!!, а у Вас он не прямоугольный, поэтому погрешность. Если треугольник не прямоугольный, то применяют теорему косинусов или синусов.

Подход правильный (для определения расстояния до города), однако будет погрешность, связанная с рельефом земной коры. Ну и треугольник должен быть прямоугольный.