El origen del Archivo está vinculado a la fundación del concejo de Murcia por Alfonso X el Sabio en 1266, y desde entonces ha sido siempre una dependencia aneja al Ayuntamiento. Cuando las reuniones se celebraron en el edificio del Contraste, en la plaza de Santa Catalina, el Archivo se instaló allí, y volvió con el Ayuntamiento cuando éste se trasladó a la Glorieta de España. Pero en el siglo XX el volumen de documentación recibido y emitido por la institución creció de tal manera que se hizo preciso instalar el Archivo en un edificio adaptado a sus fines.
En 1986 el Archivo se trasladó al Palacio del Almudí, donde tiene su sede principal. Aquí se encuentran los fondos históricos, la Hemeroteca y la Biblioteca. Diez años después se habilitaron nuevas dependencias en la Finca Mayayo (Sangonera la Verde) para gestionar la documentación producida desde mediados del siglo XX hasta hoy. Su volumen, continuamente en crecimiento, supera los 40.000 legajos de los cuales hay más de 10.000 en el archivo del Almudí y más de 30.000 en el archivo del Mayayo.
El celo que siempre tuvo el concejo murciano en la custodia de los documentos, se pone de manifiesto en las primeras actas capitulares conservadas, en las que se hace un inventario de los privilegios contenidos en el Arca; con el paso del tiempo se hizo necesario habilitar una “cámara” junto a la sala de reuniones del concejo para su conservación.
Durante todo el Antiguo Régimen se reiteran las órdenes a los corregidores y al concejo de conservar el “Arca de los privilegios” y de tener libros donde se asienten las reales cédulas, ejecutorias y otras resoluciones para evitar su pérdida.
Consecuencia de ello tenemos en el Archivo Municipal de Murcia el “Libro de Privilegios Reales” y una magnífica colección de Cartularios Reales desde 1314 a 1855. A ellos hay que añadir los diez tomos de documentos originales de la monarquía, desde el siglo XIII al XVIII, encuadernados por decisión concejil de 8 de octubre de 1746, con la finalidad de preservarlos, y que hoy conforman la serie que se conoce como Cartas Antiguas y Modernas.
Junto a la documentación real, los fondos más importantes son los generados por la propia institución. Además de los documentos producidos por las distintas oficinas municipales testimonio de las competencias ejercidas por el concejo a lo largo de los siglos XV al XXI que se conservan en los legajos, destacan dos series entre todas: una corresponde a los Libros de Contabilidad, que comienzan a finales del siglo XIV y reciben diversos nombres a lo largo de la historia; la otra la constituye la serie ininterrumpida de Actas Capitulares desde 1364 hasta hoy, que está considerada como la más completa de las existentes en los municipios de la Corona de Castilla.