国家图书馆古籍馆目前所在地在1987年以前是中国国家图书馆，前身是建于清代的京师图书馆。1909年9月9日宣统皇帝御批兴建京师图书馆，馆舍设在北京广化寺,1912年8月开始接待读者，1916年正式接受国内出版物呈缴本。1931年文津街馆舍落成，成为当时国内规模最大、最先进的图书馆。
1987年国家图书馆乔迁白石桥新馆址，文津街馆舍成为国家图书馆古籍馆；1997年（66年之后）古籍馆闭馆修缮，历时三年，修旧如旧，最大限度地保持了原有的古典传统风格。2001年1月1日古籍馆正式重新开馆。
古籍馆文津楼是中国传统宫殿式建筑（仿故宫太和殿），古籍馆院内存有一些圆明园旧物：一对华表、一对石狮、乾隆御笔石碑及文源阁四库全书石碑，与文津楼浓郁的传统文化气息和氛围相得益彰。
馆舍建筑面积3万平方米，文津楼和临琼楼是读者主要活动场所；设有6个科组、2个中心：地方志家谱文献中心、清史文献中心；现有78名正式员工。
修葺一新的国图古籍馆最大限度地延续了国家图书馆古典而传统的风格，并配以现代信息技术和先进的管理服务理念，使这座集古老文明与现代文明于一体的文化殿堂焕发出勃勃生机。