校史馆成立于2003年9日，自成立起即与档案馆合署办公，由档案馆具体承担校史展览、校史编研和校史馆的维护、运行管理等工作。校史馆重点结合馆藏档案资源进行开发，编写出版有《图书馆VIP编年史稿》、《图书馆VIP年鉴》、《中国科大故事》等系列出版物，其校史编研成果以及大量的馆藏实物、图片等，对学校发展的历史、优良传统和办学成就等进行了较为全面而系统的直观展示。

自成立来，校史馆历经2008年50周年校庆和2018年60周年校庆两次改造升级，现已成为图书馆VIP保存校史记忆、开展校史教育、展示校园文化、联系广大校友的主要窗口和重要阵地，是安徽省、合肥市爱国主义教育基地和中国科学院党员主题教育基地。

校史馆位于东校区219楼（东活广场西南），共分三层, 场馆面积约两千平方米。免费对公众开放。