平凉市所辖各县（区），早在上个世纪20年代至40年代，曾先后设过民众教育馆，其中泾川县曾设古迹陈列所，将文物保护、管理纳入工作范围。1983年，平凉地区博物馆成立后，各县博物馆也相继从文化馆析出另设。平凉地区博物馆成立前后，曾于1953年、1974年、1986年进行三次大规模文物普查工作。全市境内已发现的旧石器时代遗址12处，新石器时代遗址1145处，古窑瓷遗址3处，古城址35处，长城遗址1处；古墓葬中商周时墓葬23处，秦汉时墓葬138处，三国两晋至南北朝时墓葬3处，隋唐时墓葬11处，宋夏金元时墓葬61处，明清时墓葬73处；内有名人墓葬4处。

      1972年至1988年，平凉地区博物馆曾配合甘肃省博物馆、中国科学院考古研究所等单位的专家学者对灵台白草坡，泾川蒜李、袁家庵，崆峒区庙庄、大陈、庙底下，崇信余家湾、刘家沟，庄浪南湖，静宁李店等古墓葬进行调查、发掘和清理，获得了大批珍贵历史文物。至2002年底，全市馆藏文物（不含省和国家博物馆收藏平凉文物）计30183件，其中石器1698件，铜器3859件，铁器397件，金银器179件，玉器457件，陶器5802件，瓷器1240件，玻璃器73件，漆器13件，竹木角牙器294件，铜钱纸币9575件，典籍文献3138件，古字画1319件，其他文物2139件。其中经国家文物局和省文物局专家鉴定定级，有国家一级文物199件（含国宝级一件），二级文物1255件，三级文物3967件。国家级重点文物保护单位2处；省级文物保护单位59处。此外，古生物化石，如锥叶蕨、栉羊齿、苏铁杉、楔拜拉、裂银杏等植物化石和狼鳍鱼、原鼢鼠、平凉爪兽、三趾马、犀牛、古麟、陆龟、剑齿虎、野牛、水牛、捻角羚羊、羚羊、河套大角鹿、赤鹿、驼、野猪、獾、鼠兔、麂、三门马以及象类中的东方剑齿象、黄河象、乳齿象、平凉五棱齿象、平凉古菱齿象、陇东剑齿象（后三种皆最先在境内发现，被冠以“平凉”二字，定为新种）等化石点有100多处，全市8个博物馆均有收藏。灵台白草坡西周墓、庄浪寺洼陶器、平凉寺洼文化安国式陶器等引起研究单位和考古文博等方面学者专家的广泛关注。