青島市檔案館于1959年開始籌建，1961年7月正式成立。1963年青島市檔案館與新成立的青島市檔案管理局遷入青島市湖南路37號（后改為39號）合署辦公。 “文革”期間，青島市檔案館與青島市檔案局被撤銷，1979年12月得以恢復(fù)。恢復(fù)后的青島市檔案館仍與青島市檔案局合署辦公，青島市檔案局列入政府序列，受市委、市政府雙重領(lǐng)導(dǎo)，青島市檔案館為市委、市政府直屬的科學(xué)文化事業(yè)單位。 1993年，根據(jù)青島市委、市政府的部署，青島市檔案館（局）遷離原址，在洛陽路等地臨時辦公。1997年8月6日，位于延吉路的新館開始啟用，新館總面積13800余平方米，是一座造型優(yōu)美、設(shè)施先進(jìn)的現(xiàn)代化檔案館，解決了長期制約青島市檔案館工作全面發(fā)展的重要障礙，標(biāo)志著青島市檔案館基礎(chǔ)建設(shè)邁上了新臺階。2008年7月29日，建筑面積6000余平方米的青島市檔案館展覽中心落成并對外開放，青島市檔案館社會服務(wù)功能進(jìn)一步拓展。