上海擁有10所211工程重點建設高校，其中4所為985工程高校。全市現有100多所科研機構，10萬科研人員，及100多所專業技術培訓機構。

宋元祐年間，華亭縣首建縣學。淳祐四年(1244年)，崇明建立今有記載的上海地區早書院天賜書堂。元至元九年(1272年)，上海地區早的義塾璜溪義塾設立，為貧寒子弟授學。至元十五年，松江府立，華亭縣學升為府學。至元二十三年始設社學。元代，元廷詔立書院，上海地區設有書院5所。明洪武八年(1375年)三月，松江府令府州縣每50家設社學一所，社學迅速發展。清承前制，遍設縣學、社學、義學和書院等。順治九年(1652年)，清廷明詔每鄉置社學一所。康熙二十五年(1686年)，以社學多濫為由整飭，社學衰敗，廣設義學，以便貧寒子弟就讀。至光緒年間，先后設義學125所。清代，上海地區約建書院46所。道光后，眾多書院開設算術、常識等新式課程。

1978～1990年，全市教育經過撥亂反正，得到迅速發展。提出總體發展規劃，增加教育投入，加強依法治教，改革辦學體制，完善學位和研究生教育制度。到70年代末，市區普及初中教育，市郊學齡兒童也全部入學。1981年，市政府總結推廣“四教一齊抓”(學前教育、中小學教育、職業教育、成人教育)的經驗，進一步推動市郊普及初等教育。1983年，全市普及初等教育。

為適應全國和上海經濟、社會發展的需要，1981年、1982年中共上海市委、市政府提出解決潛在的人才危機是發展上海經濟和社會事業的首要問題。1986年，又提出上海教育“堅持方向，深化改革，增加投入，提高質量，注重效益，適度發展，社會參與，橫向協調”的總體發展戰略。

改革招生畢業生就業制度。1995年起，17所高校實行自主招生，市屬高校除師范、農村院校及部分特殊專業外，全部實行繳費上學制度。**部委屬在滬院校大多也實行招生并軌。90年代初，高校畢業生由國家計劃分配，逐步改為“雙向選擇、擇優錄用”的就業制度，并開始進入人才市場。繼續推進課程教材改革。1995年，全市小學1～3年級和高中一年級施行新的課程教材。

推進社區教育。1985年4月《中共**關于教育體制改革的決定》公布后，上海開始探索教育與社會結合。1985年，出現工廠社會支教基金會。1990年，全市市區141個街道(鎮)和12個區都建立相應的社區教育委員會。1993年2月后，社區教育組織得到進一步鞏固和發展。到1993年，14個市區和所有街道、鎮建立社區教育組織，市郊6縣鄉鎮社區教育組織也有所發展。1995年4月，上海交通大學與徐匯區政府共建青少年教育基地，首創高校參與社區精神文明建設。

1994年9月，上海市普及九年義務教育和基本掃除青壯年文盲工作通過國家教委評估驗收。1995年，高中階段入學率達83%;高等學校入學率占同齡人口20%;每年有200萬人次接受各類成人教育，新增勞動力的受教育年限超過12年，達到中等發達國家水平。是年，全市有高校45所、在校學生14.4萬人，中學756所、在校學生72.39萬人，小學1807所、在校學生109.78萬人，幼兒園3115所、在園幼兒30.77萬人，中等專業學校100所、在校學生10.95萬人，技工學校154所、在校學生4.57萬人，職業中學76所、在校學生8.64萬人，特殊教育學校39所、在校學生0.57萬人，工讀學校15所、在校學生0.24萬人，各類成人教育學校974所、在校學生27.89萬人。