Как посчитали количество частиц во вселенной, если неизвестны её размеры?

Элементарно.

Во-первых, подсчитали количество частиц в ИЗВЕСТНОЙ части Вселенной, доступной для наблюдения. Обычно, чтоб не заморачиваться, именно эта область и называется Вселенной. Эта часть ограничивается известным расстоянием - 13,7 миллиарда св. лет. Значит, известен объём Всленной. Во-вторых, с достаточно высокой точностью известна и средняя плотность вещества во Вселенной. А то, что Вселенная однородна (на больших масштабах), считается установленным и неоспоримым фактом. Подтерждением чего до некоторой степени служит существование закона сохранения импульса. Тем самым у Вселенной появляется вполне определённая масса.

Идём дальше. Вся видимая масса Вселенной состоит из барионов - протонов и нейтронов. Соотношение их известно. А значит, не штука сосчитать, сколько во Вселенной протонов и сколько нейтронов. Поскольку Вселенная в целом электронейтральна, то число электронов в ней равно числу протонов.

Но это ещё не всё. Ещё во Вселенной есть как минимум фотоны и нейтрино. Ну дык и это не штука. Плотность энергии (средняя) тоже известна, как и распределение этой энергии по энергиям - несмотря на корявость слога, можно понять, о чём речь: спектральное распределение фотонов. Значит, по средней плотности энергии и по объёму Вселенной можно сосчитать размазанную по ней энергию, а по спектральному распределению прикинуть и число фотонов. Примерно та же ситуация и с нейтрино - плотность потока нейтрино известна (разумеется, вблизи звёзд она выше, как и плотность потока фотонов, но мы ж говорим о средних по Вселенной величинах...), поэтому и общее число нейтрино тоже поддаётся оценке.

Ну собсно всё. Барионами, электронами, фотонами и нейтрино и ограничивается номенклатура частиц, известных на то время, когда появились первые такие оценки. Конечно, можно копнуть глубже и сказать, что есть ещё кварки, что есть ещё глюоны, которые эти кварки связывают в протоны и нейтроны, что есть ещё пи-мезоны, которые связывают барионы в ядра тяжёлых элементов... - но это тоже поддаётся расчёту. Каждый протон или нейтрон состоит изх трёх кварков, и вся любовь. А числом пи-мезонов вообще можно не заморачиваться, поскольку 90% массы Вселенной - это водород. Где никаких частиц друг с другом связывать не надо, а стало быть - не нужны и пи-мезоны.

В качестве отмазки: как выяснилось сравнительно недавно, барионная материя - это всего 4% от полной массы Вселенной. Что там есть ещё - пока что толком не ясно. 26% массы - это тёмная материя, остальные 70% массы - тёмная энергия, но какова природа этой фигни, состоит ли она из каких-то частиц и если да (а скорее всего да) - то из каких именно, науке на дынный момент неизвестно. Так что существующие оценки числа частиц относятся именно к известным частицам.

Никак только можно даже не заморачиваться. Только Бог знает.