Что это за программа LaTeX и для чего он нужен?

LaTeX - это не программа. Это скорее язык разметки.

Записывая в специальном формате данные вы как бы описываете то, что хотите получить в виде текста. Просто обязательная вещь для математиков, ибо сложные формулы можно написать так, чтобы они выглядели нормально можно только в LaTeX. Но учиться этому тоже нужно долго.

Возьму пример с википедии:

Вот код описания:

\frac{1}{\sigma\sqrt{2\pi}}

\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)

А из него получается вот такая картинка: