Почему учёных перестала устраивать геометрия Евклида?

Учёных "перестала устраивать" не только геометрния Евклида, но и принцип относительности Галилея. Перестали устраивать прежде всего потому, что они не согласовывались с экспериментом. Скорость света не складывалась со скоростью движения Земли, а Меркурий, гад такой, по своей орбите двигался не так, как "полагалось" по законам классической физики, выведенным в предположении правильности евклидовой геометрии.

С головы на ноги всё встало только с появление теории относительности Энштейна. Сначала специальной, а потом и общей. Вот как раз специальная теория отностильности и установила (точнее - постулировала), что постоянство скорости света есть фундаментальный закон природы. Именно поэтому галилеева формула сложения скоростей на очень больших скоростях (сопоставимых со скоростб света) и не работает. Из этой же теории следовало, что пространство не является неким абсолютом, вещью в себе. Свойства пространства тесно связаны с движением материи в нём, и даже более того, для разных наблюдателей, движущихся по-разному, эти свойства "одного и того же" пространства выглядят разными.

Но как оказалось (это установила уже Общатеория относительности), свойства пространства зависят не только от движения материи, но даже и от самого факта её наличия. Оказалось, что наличие материи искажает метрику пространства - она перестаёт быть евклидовой (метрика - это правило, по которому вычисляется расстояние между двумя точками; для евклидовой метрики это правило - теорема Пифагора). Именно искажением метрики пространства и объясняется "неправильное" движение Меркурия. Именно искажением метрики объясняется и отклонение лучей света вблизи массивных объектов - гравитационное линзирование. Так что "перестала устраивать" означает лишь то, что привычная геометрия выполняется лишь "в простых случаях" - когда эффекты непривычной геометрии пренебрежимо малы.