Существует ли единица измерения угла, меньшая секунды?

Существует.

Всегда можно найти меньшее у малого.

Никто не запрещает измерять в наносекундах или в милисекундах, или в аттосекундах - секунда на 10 в -18 степен,) или даже в терциях - 1/60 доля секунды.

А можно и в полусекундах.

Или даже применить что-то свое.

например, за 0,6 секунды птица может впоймать рыбу, поэтому угол в 60 градусов вполне можно назвать углом 129600 уловов.