Как правильно писать: Государственная дума или Государственная Дума?

Правильно - Государственная Дума. Это именно тот случай, когда традиция закреплена вопреки правилу.

Вообще, в названиях учреждений, организаций, органов власти с заглавной буквы пишется только первое слово и входящие в состав названия имена собственные, поэтому по правилам русского языка следовало бы писать Государственная дума, Федеральное собрание. Однако в официальных текстах (а на практике – в письменной речи вообще) пишется Государственная Дума, Федеральное Собрание. Такой вариант написания рекомендован «Кратким справочником по оформлению актов Совета Федерации Федерального Собрания Российской Федерации».