平凉市博物馆前身是平凉地区博物馆，成立于1979年。1985年从平凉地区群众艺术馆分出搬到明代韩王紫金城延恩寺的旧址宝塔梁上。2002年平凉撤地设市后，正式改名为平凉市博物馆，为国家公益性全额拨款文化事业单位，机构规格为科级，主要职能是文物收藏、管理、鉴定、研究及考古发掘等。隶属平凉市文化广播影视新闻出版局，馆藏有青铜器、陶瓷器、金银器、玉器、石器、壁画、书画和皮影等10个种类的国家珍贵文物一万多件，是一处集历史文物、旅游观光、休闲娱乐于一体的综合性博物馆。
　　2004年平凉市博物馆被财政部、国家文物局确定为全国博物馆馆藏文物保存环境标准化达标试点单位。历经一年，建成了基础设施和设备一流的标准化文物库房、文物陈列室、文物养护室和信息资料中心，安装了全自动化的空调与温湿度控制系统、高智能的安防报警系统和消防预警系统，同时，从全市数万件文物藏品中精心筛选出500多件精品文物，推出了《文华物宝》——平凉历史文物精品展和《丝路遗珍》——平凉佛道教文物艺术展两大展览。2005年4月28日正式开馆后，优雅和谐的场馆环境、特色鲜明的精品陈列、全新的科技管护手段，受到社会各界的普遍称赞，获得文化部“全国公共文化设施管理先进单位”、团中央“中国青少年社会教育‘银杏奖’——优秀团队”荣誉称号，是甘肃省“爱国主义教育基地”，也是平凉市“中共党史教育基地”和“科普教育示范基地”，成为在全国具有一定知名度和影响力的标准化地市级博物馆。
　　2008年4月25日，平凉市博物馆向社会免费开放以来共接待观众近30万人。