Почему существуют открытые математические проблемы, если есть компьютеры?

Компьютер - это инструмент. Так же как шариковая ручка, или двуручная пила. Инструмент сделать сам ничего не может. Сделать может мастер с помощью хорошего инструмента. Чем лучше инструмент, тем больше может сделать мастер. И тем больше ему хочется сделать ещё. И как правило, это что-то ещё невозможно сделать с имеющимся инструментом, нужен более мощный инструмент.

Ну, а кроме того, не любая математическая проблема может иметь решение (см. теорему/ы Гёделя).

Я уже ответил на аналогичный вопрос. Погугли "23 проблемы Гильберта" и "задачи тысячелетия".

Там задачи так сформулированы, что ни на каком языке программирования невозможно даже программу составить.

Даже алгоритмы неизвестны. И тем более невозможно их решить с помощью компьютера.

А вот Теорему Ферма 300 лет пытались доказать, а доказал в 1994 году Эндрю Уайлс.

Причем доказал специально без всяких компьютеров, так, как мог доказать сам Ферма.

А еще была проблема 4 красок, которую сформулировал Фрэнсис Гутри в 1852 году, а доказали в 1976 году Кеннет Аппель и Вольфганг Хакен. И она была доказана именно с помощью компьютерных программ.

Так что все в этом деле очень неоднозначно.