北京语言大学图书馆成立于1962年，当时被称为北京外国留学生高等预备学校图书馆。1965年，正式改名为北京语言学院图书馆。1969年北京语言学院撤销，图书馆也随之停止工作。1972年复校，图书馆恢复正常工作。1982年图书馆从教务处领导改为由学校直接领导，升格为处级单位。1996年6月13日更名为北京语言文化大学图书馆。2002年8月26日更名为北京语言大学图书馆。1992年5月新馆舍建成，同年9月投入使用，新馆9870平方米。