1959年4月，呼和浩特市档案管理处、呼和浩特市档案馆成立。1981年9月，“呼和浩特市档案管理处”更名为“呼和浩特市档案局”。2008年5月，呼和浩特市档案局、呼和浩特市档案馆合并，为一套机构两块牌子，履行档案行政管理和档案保管利用职能，人员列入参照公务员管理范围。2010年4月，明确呼和浩特市档案局（馆）为市直属正处级事业单位。2018年12月，呼和浩特市档案局（馆）实行局、馆分设，呼和浩特市委办公室加挂呼和浩特市档案局牌子，承担档案行政管理职能。呼和浩特市档案馆承担档案接收、保管和利用职能。2021年2月，呼和浩特市委办公室印发《呼和浩特市档案馆职能配置、内设机构和人员编制规定》（以下简称《规定》），《规定》中确定呼和浩特市档案馆为市委所属公益一类事业单位，机构规格相当于正处级。内设机构7个：办公室、法治宣教科、档案业务指导科、收集整理科、档案信息技术科、保管利用科、资源开发科，同时设党支部和离退休人员工作科。呼和浩特市城建档案馆、呼和浩特市艺术档案馆划转至呼和浩特市档案馆，为呼和浩特市档案馆下设的2个相当正科级专业分馆。核定编制数80人（市档案馆41名，实有37人；城建档案馆32名，实有27人；艺术档案馆7名，实有6人）。

        主要职能：贯彻执行有关档案管理的法律法规规章及党和国家、自治区有关规定；辅助档案主管部门制定全市档案工作业务规范和相关政策意见；受档案主管部门委托，研究起草全市档案事业发展规划，开展档案行政执法和档案违法行为查处相关行政辅助性工作；辅助档案主管部门开展监督、指导全市各级各类档案馆及机关、团体、企事业单位和其他组织、农村、社区档案业务相关行政辅助性工作；承担列入进馆范围档案资料的指导、收集、整理、鉴定、保管、统计等工作；开展档案保护和档案科技成果转化应用；组织开展电子档案、档案数字化成果的接收、技术指导工作；辅助档案主管部门开展全市档案专业教育和培训工作；推动全市档案专业人才队伍建设；开展档案宣传、研究、出版相关工作；开展档案陈列展览，编纂档案资料，为社会提供档案服务。承担我市土地、城市规划、市政工程、公用工程、交通运输设施工程、民用建筑工程、城市防洪、人防设施、不动产登记、土地确权、“山、水、林、田、湖、草”自然资源确权等专业档案的收集、保管和利用工作；承担组织城市建设类档案工作人员的培训；承担开展城市建设类档案的查阅利用服务工作。承担我市各类文化艺术档案的收集、保管、编研、开发利用等工作；承担组织艺术档案工作人员培训；承担开展艺术类档案的查阅利用服务工作。

现在使用中的市档案馆占地面积11.55亩，主楼建筑面积3900平米，2-5楼共4个档案库房，面积960平方米。2016年，呼和浩特市档案馆新馆建设经市委常委会研究，列入了呼和浩特市重点文化场馆建设项目。2017年，被市政府列入“呼和浩特市文化客厅”建设项目。新馆设计总建筑面积为21676平米，地上建筑面积为18625平米，地下建筑面积3051平米，共7层，目前正在建设中。2018年，为解决新馆建成前档案的接收入馆问题，在市委、市政府的重视下，由呼和浩特市机关事务管理局租赁并改造建设的4700平方米的呼和浩特市档案馆（西区）于2019年6月投入使用。现馆藏档案资料1035941卷件（册），其中：历史档案13322卷，馆藏资料43188册，建国以来档案661787卷317644件。馆藏历史档案中有656件档案被国家确定为可移动文物。截至“十三五”末，共完成471.88万幅纸质档案数字化，占馆藏永久档案的40%。

近年来，呼和浩特市档案馆在市委、市政府的领导下，认真贯彻落实《中华人民共和国档案法》、《内蒙古自治区档案条例》和国家、自治区及市委对档案工作的要求，坚持围绕中心，服务大局，着力加强档案资源、利用、安全、治理体系建设，有效履行档案保管利用职能，积极发挥档案在服务民生、促进经济社会发展中的独特作用。当前，呼和浩特市档案馆正在按照自治区党委和呼和浩特市委的部署要求，深入学习贯彻习近平总书记关于档案工作重要批示精神和对内蒙古工作重要讲话重要指示批示精神，认真谋划贯彻落实方案和具体措施，结合学习贯彻工作，市档案馆将补短板、强弱项，认真研究机构改革后国家综合档案馆职能定位，明确方向、把握重点，自觉把档案馆工作放在全市经济社会发展大局中，切实做到高起点谋划、高标准推动、高质量发展，积极主动为全市中心工作服务，努力实现我市档案工作争创全区一流业绩的目标。