Как правильно: (использование гелевой или капиллярной) ручек или ручки?

В данном случае, при альтернативном союзе ИЛИ правильным будет использование единственного числа для существительного :

использование гелевой или капилярной ручки.

Если бы пример был с союзом И (придающим значение объединения и множественности): использование гелевой и капилярной ручек - тогда скорее множественное число напрашивается. Однако, единственное тоже возможно (контекст иногда вносит добавочные смыслы и поправки).