Не надлежащее или ненадлежащее — как правильно и почему?

Зависит от ситуации. Поскольку "надлежащее" - это прилагательное, то, согласно правилам русского языка (правописание частиц не- и ни- с прилагательными), раздельно следует писать в случаях, если есть, или подразумевается противопоставление (например, не надлежащее, а отвратительное качество), или слитно, если слово служит не для отрицания, а для выражения нового, противоположного понятия (например, товар был ненадлежащего качества).