日本国立国会图书馆有两个源流。一是设立于1890年、隶属于旧宪法下帝国议会的贵族院众议院图书馆，另一则是设立于1872年、隶属于文部省的帝国图书馆。其中帝国图书馆经历了自书籍馆（1872）、东京书籍馆（1875）、东京府书籍馆（1877）、东京图书馆（1880）至帝国图书馆（1897）的变迁。1947年改称为国立图书馆。

日本国立国会图书馆成立于1948年2月，隶属日本国会，是日本的国家图书馆，也是国内最大的公共图书馆。该馆的馆藏丰富，主要收藏宪政资料、法令、议会资料、科技资料、地图资料、音乐资料、古籍图书及亚洲资料等。1998年藏书量为图书688万册，期刊和报纸15万种，缩微胶片612万张，唱片43万张，博士论文32万份，地图40万张。馆内的组织是由中央馆、国会分馆、支部上野图书馆、支部东洋文库以及行政司法各部门的35个支部图书馆构成，现有职员851名。

截至到2000年3月，国立国会图书馆的藏书量为：
图书7,312,178 册 （日文图书5,153,408册; 西文图书 2,158,770册 ）。
连续出版物163,097种（国内期刊102,796种，报纸6,906种； 国外期刊51,877种，报纸1,518 种）。
非书资料为缩微胶卷278,126卷； 缩微胶片6,412,923 张； 唱片455,430张； 光盘15,258张； 国内博士论文36万份；文书类253,070件； 报纸剪辑资料2,009,226张； 地图419,049张。