Корректно ли спрашивать у человека какого он пола?

В описанной Вами ситуации полагаю - некорректно. Я бы ограничилась "за мною заняли, но я не помню, кто именно" - такое часто бывает.

Если же такое существо неопределённого пола постоянно в поле Вашего зрения (каламбур) - то нужно задать наводящие вопросы, предполагающие ответы с родовыми окончаниями.

Ох, проблемы унисекса! Конечно, в такой ситуации виноват сам человек, знающий, что его внешность допускает двоякое толкование и не одевающийся соответствующим образом, чтобы обозначить свой пол. Или делающий это намеренно.

Поэтому я считаю, что неверное обращение либо поможет человеку впредь более внимательно относиться к своей внешности, либо не обидит его в силу умышленности.

На мой взгляд, Вы поступили достаточно деликатно, назвав особь человеком.

В такой ситуации можно просто сказать, что за мной заняли очередь, не вдаваясь в подробные обьяснения кто именно, поскольку спрашивать кто, что, да почему не совсем удобно, да и себя выставить идиотом не хочется. А если будут и дальше приставать - можно пальцем на него указать или сказать просто человек, чем потом виновато говорить, а слона то я и не заметил.