上海市音樂幼兒園成立于1984年10月,由香港愛國同胞劉浩清先生和夫人孔愛菊女士提供私宅,由上海市婦女聯合會創辦,是本市**所音樂幼兒園。1989年與黃浦區淮海東路幼兒園合并，遷址淮海東路6號，隸屬于黃浦區教育局領導。1996年合并原江西中路幼兒園（漢口路126號）成立分園。2005年7月，由于分園園舍陳舊，條件設施跟不上發展要求，經教育局同意關閉分園。 2007年11月為了迎接世博配合人民路越江隧道工程，音樂幼兒園遷址至廈門路180號。2010年音樂幼兒園被評為上海市示范性幼兒園。

上海市音樂幼兒園已連續五屆被評為市級文明單位，1998年被評為上海市“三八”紅旗集體，2001 年被評為上海市勞模集體，2004被評為全國女職工先進集體，幼兒園還曾獲得上海市辦園成績顯著單位、上海市綠化先進單位等榮譽稱號；上海市語言文字規范化示范校；園黨支部也被評定為黃浦區一級黨支部。幼兒園堅持以科研推動教育的發展，是EPD學校、區科研先進集體，是一所社會聲譽很高的品牌幼兒園。

如今的音樂幼兒園設有大、中、小、托四個年齡段，將近有200名幼兒。擁有整潔、舒適、優雅的環境。幼兒園設有多功能活動室6間；專用活動室17間；戶外運動場地面積250平方米。每班配置了一活動室、一臥室、一盥洗室，設置了專門的幼兒餐廳，還有安全衛生、內容充足、豐富多樣、適合各年齡特點的玩具、圖書、操作材料及必要的多媒體教學設備，并且使用率高。

幼兒園擁有一支充滿朝氣、富于挑戰、多才多藝的教師隊伍，全園在崗教工共32名，其中行政2人、教師20名、大專學歷8名，本科及本科在讀12名，在讀研究生1名，全部達到規定學歷。后勤職工10名，做到了100%持證上崗。全園教師中共有黨員13名，占教師總數的59%。100％教師向黨組織遞交了入黨申請書。每位教師掌握兩門以上樂器，藝術素養精湛。教師們師德高尚，樂于學習，勇于在實踐中探索與開拓，是音樂幼兒園一道令人稱贊的風景線。

辦園廿多年來，音幼始終堅持“全面＋特色”的辦園理念，使音幼的孩子能在幼兒園常規教育課程學習中得到全面發展，還能在以器樂啟蒙為主的音樂課程學習中獲得音樂素質的提升。幼兒學習的樂器內容包括鋼琴、小提琴、琵琶、柳琴、二胡、揚琴、古箏等。特聘了上海音樂學院、上海師范大學和各區青少年活動中心共40余位、教授定期為幼兒園的音樂專業教學把關，使幼兒獲得了“全面＋特色”的綜合發展。