Что такое эзотерические языки программирования?

Точного определения нет.

С одной стороны к ним относят языки-шутки (типа whitespace).

С другой, понятие (и языки, которые с ним связывают) постоянно меняется. Например, сейчас большинство программистов относит Prolog к эзотерическим языкам. Но в 70-80х гг. в нашей И ЗАРУБЕЖНОЙ литературе ему пророчили большое будущее и считали что он может вытеснить Lisp (а С++, тем более).

Цитата с программерского блога. (там же есть пруфлинки на наши и зарубежные источники).

Аналогично с потоковыми языками. В тех же 80х их рассматривали как средство выхода из кризиса, а т.к. считали что за ними будущее - то думали как обучать этому безобразию школьников (смотри французский проект Lucid). Сейчас все это - ярко выраженная эзотерика.

Это языки программирования созданные не для того, чтобы программировать на них реальные задачи, а использовать как-то по другому. Чаще всего - это конкурсы, сложные задания, работа в неизвестном формате.

Некоторые языки шуточные, например HQ9+, который толком ничего не умеет. Зато другие, обладают полнотой по Тьюрингу, например brainfuck. На них можно реализовать любой алгоритм, но, чтобы сделать это нужно сильно потрудиться. Еще есть просто забавные, например язык Shakespeare - корректная программа на этом языке должна быть похожа на пьесу Шекспира, а есть ужасные языки, например Malbolge. Для последнего языка, автор почти два года писал три простейших программы.