河南农业大学图书馆最早为1913年创立的河南公立农业专门学校图书室。1927年以后，河南公立农业专门学校先后与他校合并，成为河南省立中山大学农科、河南大学农学院，河南公立农业专门学校图书室也随着成为这些学校的图书馆分馆。1952年全国高校院系调整时独立建校并同时建馆，2004年9月，建立了图书馆分馆。2011年10月建立了龙子湖新校区分馆。2012年9月建立了许昌校区图书馆分馆。