浙江省江山中學源于1737年（清乾隆2年）創建的官辦文溪書院，傳承于1906年（清光緒32年）知縣李知岳奉命改名的縣立江山中學堂，時設正科（中學班），預科（小學班），師范科各一班。1908年，知縣蒯思曾將中學堂改為高等小學堂（今實驗小學）。以學生年長者編入師范科，小者編入小學，于十二月兩班各行畢業。1909年停辦師范，只招小學部學生。
1938年在縣立中山小學（今實驗小學）校舍創辦江山縣中學生補習學校，為現代江山中學的前身。
1939年3月，為避免日機空襲，學校被迫遷往長臺。
1942年夏，日軍竄犯江山，長臺校舍3/4被焚，學校被迫停辦半年。
1943年春，遷往石門，改稱江山縣立初級中學。
1945年春，在城內增設高中班，借城東門江西會館上課。
1946年春，從石門遷回城內，學校租當店巷汪氏大宅和南徐祠堂為校舍。
1947年1月，改校名為江山縣立中學。
1949年1月，學校遷至縣河頂（縣河西路18號，今西城華庭小區），學校設高中、初中、簡師（1950年停辦）、附屬小學（1950年單獨建制）四部。
1950年春，私立萃文中學部分師生并入該校。
1953年9月，遷高中部于藍田坊王氏宗祠。
1954年8月，高中部遷回，并在藍田坊王氏祠設初一年級五個班。
1955年8月，奉省教育廳指令改稱校名為"浙江省江山中學"，列為金華地區重點中學。
1969年6月，與江山新一中（今江二中）合并，校名為“江山縣城關中學”。
1978年下半年，與江山一中分開，復稱江山中學，啟用縣委頒發的"浙江省江山中學"印章。
1979年8月，確立了黨支部領導下的校長負責制。
1981年5月，被列為浙江省80所重點中學之一。
1986年6月，分設教務處和政教處。
1987年5月，被列為全省28所可向全國重點大學免試保送新生的重點中學之一。
從1988年到1998年的十年間，學校進入大規模建設時期：先后拆除了蘇式二層教學樓、老食堂、校辦廠、學生宿舍等老建筑，新建了6層教學實驗樓，建筑面積5144平方，是當時市區建筑面積大的建筑，新建建筑面積2110平方的師生餐廳、建筑面積4248平方的6層學生宿舍、建筑面積4635平方的5層辦公圖書綜合樓等；從1996年開始將原校園東北的市運輸公司、農業局、林業局、種子公司等單位土地劃歸江中，到1998年校園擴展到80畝（不包括市郊陳家安21畝農場），學校總建筑面積2萬多平方。
1992年，被省委省府命名為"浙江省文明單位"，經過三次復評，1994年、1996年、1998年繼續保留省文明單位稱號，2001年3月，浙江省委、省政府再次命名為"浙江省文明單位"，后經定期復評，至今連續保持省級文明單位稱號。
1993年增設校長辦公室，1994年增設保衛科，1995年增設教科所，2006年增設宣傳處、招生處，2009年重新合并。
1997年7月，被省教委命名為浙江省一級重點中學。1999年10月，通過省教委的復評，成為全省首批通過一級重點中學復評的33所學校之一。
2001年確立校長辦公會議制度。
2003年9月，被衢州市人民政府命名為衢州市首批名校。
2002年江山市政府啟動江山中學整體搬遷方案，2003年10月在城北五里亭開工建設，新校區占地350畝，總投資1.63億元，建筑面積八萬平方米。
2005年1月整體搬入新校園（城北凝秀中路2號）。

自辦校至今，已培養合格畢業生25000余人。其中的杰出代表有：中國科學院院士毛江森，中國工程院院士徐元森，英國皇家內科學院院士、美國心臟學院胸腔學院院士姜必寧，中國變性醫學之父何清濂，大慶油田地下采礦原副總指揮周望，《人民日報》原副總編鄭夢熊，《人民政協報》原副總編汪東林，新時期軍人楷模范匡夫，西泠印社早期會員、篆刻藝術家汪新士，著名影視演員何晴等。各行各業的學者、更是不計其數。

江山中學整體設計規模為60個教學班，在校生近3000人，教職工200余人。擁有全國教師、全國教材審查委員、全國教育系統勞動模范、全國十佳教改新星、浙江省功勛教師、浙江省特級教師、浙江省教師、浙江省班主任、浙江省教壇新秀、浙江省普通高中新課程專業指導委員會成員、浙江省課堂教學特等獎、一等獎獲得者、浙江省名師培養對象、浙江省中小學骨干教師高級訪問學者、衢州市拔尖人才、衢州市名師、衢州市學科帶頭人、江山市名師、江山市拔尖人才、碩士教師等70多人。江山中學具有聘請外國文教的資格，每年都有2-4位外籍教師來校任教，迄今已有16位外籍教師來校任教，并已派出16位骨干教師赴美國、加拿大、澳大利亞、新西蘭、英國等國進修教學法。

江山**中學位于，江山**中學提倡“對學生負責、對家長負責和對社會負責”的辦學理念，樹立“勤奮、求實、文明、創新”的校風。學校教學成績優異。截至2014年高考，50%人上高考重點線，升學率達99%,在高考中，創下了600分以上人數全省第二、個人總分全省第二的輝煌。有七名同學在高考中獲衢州市前三名，其中四位同學獲**名。2003年以上年高考上重點線人數都在200名以上。兩年間，有5人進入浙江省高考個人總分前50名。2004年高考，江山中學邵航同學以705分的成績榮獲浙江省理科總分并列第6名。學校學科競賽成績顯著，有多人獲得信息學、數學、物理等競賽全國一等獎。2003年以來，學校榮獲全國信息學競賽優勝集體獎，浙江省物理競賽優勝團體獎，浙江省化學競賽優勝團體獎。信息學（計算機）奧林匹克競賽更屬浙江翹楚，2000年以來，有近10名學生入選國家冬令營集訓或在省級賽事和全國賽事上披金戴銀。

學校是浙江省具有聘請外國文教資格的學校。2001年開始到2014年，分別有8任12人外籍教師來該校任教，目前有來自美國、加拿大的外教三名。同時，學校積極實施"走出去"戰略，2002年，學校先后與加拿大世紀學院、美國莫尼卡高級中學、新西蘭奧克蘭塔卡普納文法中學簽定了友好協約，締結為聯誼學校。2003年，該校兩位老師赴新西蘭參加中學英語教師教材教法培訓（浙江省共4名）。

學校以“人文、和諧”為辦學理念，以“崇尚科學、重視人文”為校魂，以“團結進取、勤勉求實”為校訓，以“是一種習慣”為校風，倡導"情，理，方，格"的教風和"嚴謹規范，學有特色，立志成才，報效祖國"的學風。江山中學在長期的辦學過程中，形成了寬松、和諧的校園文化氛圍，并出現了以教育科研、學科競賽、體音美教育和學生"三自"教育為特色的四大教育亮點。

江山中學努力營造人文、和諧的校園文化氛圍，注重學生能力的培養.多年來，江山中學在學生管理方面提倡"自學、自管、自理"的"三自"教育。自學，是培養學生的自學能力，讓學生做學習的主人；自管，是培養學生的自管能力，讓學生做自己的主人。自理，是培養學生自我整理、自我處理各種問題的能力，讓學生做自己生活的主人。江山中學學生自愿報名，自由競選學生會、團委、班委職位，自主運作學生廣播臺、學生電視臺，自主組織動漫社、書法社、攝影社等十多個社團經常性的活動，自主出版《小荷》《三味》《數學天地》等校刊，刊物上的文章已有100多篇被全國中學生報刊轉載。