Возможно ли применение метода наименьших квадратов к синусоидам?

Вообще говоря, возможно. Сам по себе метод не накладывает никаких ограничений на вид функций, по которым проводится регрессия.

Другое дело, что для синусоидального базиса намного нагляднее и проще применять методы Фурье-анализа, нежели метод наименьших квадратов.

А почему нет? Нужно по-прежнему, чтобы сумма квадратов отклонений экспериментальных точек от теоретической кривой была минимальной. Конечно, на ограниченном интервале (как и в случае полинома).