湖南岳云中學由近代著名教育家何炳麟先生等人于1909年(清宣統元年)創辦，以“勤恪忠毅”四字為訓。初名“湖南南路公學堂”、“湖南第二公學堂”，1914年改為“湖南私立岳云中學”，是湖南早開辦的中學之一。初址設長沙戥子橋、荷花池，1938年因日軍入侵長沙，岳云中學遂遷徙南岳，旋又與長郡、周南、明憲遷于安化蘭田，抗戰勝利后其他各校紛紛遷回長沙，但何校長堅決主張遷回南岳。他認為教育應該面向農村，學校不宜過分集中于城市。于是何校長隨即回到南岳視察校舍，結果看到的是一片瓦礫，幾棟校舍變成平地，他雖然感到傷心，但并不喪氣，隨即籌款于10月份開始修葺校舍。半年以后，岳云又于1946年秋天在南岳開學了，于是從此岳云中學在南岳定址。1951年由人民政府接管，更名為“湖南省立岳云中學”，爾后又易名為“衡山**中學”、“南岳**中學”等，1984年經教育部批準，恢復“岳云中學”校名。近百年來，學校共培養高初中、專修科畢業生4萬余人，可謂英才輩出。自五四以來岳云人便英勇參與救國運動，其中革命戰士有李啟漢（1898—1927年，中華全國總工會執行委員會委員兼組織部）何孟雄（1898—1931年，何炳麟之侄，北京共產主義小組成員，中共北京地委書記。其妻繆伯英為“中共”**個女黨員）、楊開慧（1901—1930年，毛澤東之妻）、潘心源（1904-1931年，紅四軍政委，紅十三軍政委）、謝伯瑜（1905—1927年，李大釗的戰友，時任國民黨北京市黨部組織部長，國民黨北京市黨部內中共黨團書記）、向鈞（1906—1928年，中共湖南省委農民部長，楊開慧表弟）等人；該校也培養了“音樂泰斗”賀綠汀、著名作家丁玲、葉紫，兩院院士李薰、孟少農、曹建猷、鐘訓正等；該校還培養了高級將領鄧華（1910—1981年，上將，中國人民志愿軍代司令兼政治委員，沈陽軍區司令員，副總參謀長）、廖耀湘（1906—1968年，抗日名將，因其深得蔣介石之信任，在十二年之內由**軍校教導總隊騎兵隊少校連長升為國民黨第九兵團中將司令）。此外，李銳（原中共組織部副部長，毛澤東秘書），馬赫凌（馬英九的父親），劉詠堯上將（國民黨陸軍部長，劉若英祖父）也是畢業于岳云中學。建校伊始，何炳麟先生即定下“以全面發展為宗旨、以數學體育為兩翼、以勤恪忠毅為精神”的辦學思想，力求培養情操高尚、體魄健全、思維敏捷的全面發展的人才。嗣后，全體師生遵循何公思想，矢志育才，奮力拼搏，辦學成績，蜚聲華夏，享有“北有南開，南有岳云”之美譽，而數學、體育兩科，更為岳云之驕傲。
　　全校體育活動有組織保障，有老師指導，逐步健全了體育組織機構。建校初期，體育由教務部兼管，不久即成立體育會，設主任一人，全校師生均為體育會成員。民國２３年（１９３４年）上期，學校成立體育部，與教務、訓導兩處平行，在組織機構上形成德、智、體三育并重的格局。學生自治會設體育股，各班設體育代表，組成學校體育委員會協助體育部工作。留學日本的陸古霈，留學美國的金兆鈞，以及陳奎生、祝家聲、張家勛等體育名家均先后在岳云執教體育。
　　學校對學生從事課外體育活動、課余訓練、參加比賽均有嚴格規定，晨操、晨跑無故缺席者作曠課一節處理。每天下午第二節課后為課余活動時間，體育部按學生自報鍛煉項目編組，定時、定點、定器材開展活動。體育部從一年一度的校運會中選拔選手組成各項目代表隊，每周定時在教師指導下進行訓練，提高技藝。學校對學生參加各種比賽訂有戒條八則，要求參賽人員講究體育道德，注重文明、友誼，尊重裁判，勝不驕，敗不餒。
　　由于學校重視體育，學生的運動技術水平提高顯著，比賽成績一度雄冠三湘。從１９２０年始，岳云先后派選手參加過全省運動會、華中運動會、全國運動會，均獲好成績，尤以田徑項目為突出。在１９２３年舉行的**屆華中運動會上，湖南以田徑團體總分６５分居榜首，其中岳云中學選手得２７分，該校學生馬祥波獲鉛球、鐵餅、標槍、跳高及撐竿跳高５項冠軍。１９２４年５月舉行的第七屆省運會（亦為第二屆華中運動會湖南預選賽），岳云獲田徑、籃球錦標，與雅禮中學并列總分**名。在同年舉行的第二屆華中運動會上，岳云的李珍、朱恩奎等４名選手又獲７個田徑項目的冠軍。１９３５年，湖南省中學畢業生會考體育一科，岳云高、初中畢業班的成績均占鰲頭。１９４３年、１９４８年的兩屆省運會上，岳云中學先后奪得１９個冠軍。但在以后的“大躍進”、“文化大革命”時期，體育教學、業余訓練、課外活動均受到干擾，特別是“文化大革命”開始后，學校的大田徑場亦被改為水田，體育活動無法開展。直到１９７６年才開始修復田徑場、游泳池及其他球類場地，學校體育活動逐漸恢復。１９８０年，省體委確定岳云中學為省級田徑傳統項目學校后，學校在體育教學和課外體育活動中增加了田徑教學與田徑項目的比重，并組織全校田徑代表隊，每周堅持業余訓練８—９小時。１９８４年５月，參加衡陽市重點中學田徑運動會，獲高中女子組團體總分**名。１９８８年，全校學生達到《國家體育鍛煉標準》的比率已上升到８５％。１９８０—１９８９年，岳云中學向體育院校輸送了２４名專業人才。　上個世紀50年代前期和中期，在省級體育比賽中，“岳云”的學生選手在撐竿跳高、短跑方面曾多次打破過省紀錄……但在以后的“大躍進”、“文化大革命”時期，體育教學、業余訓練、課外活動均受到干擾，特別是“文化大革命”開始后，學校的大田徑場亦被改為水田，體育活動無法開展。直到1976年才開始修復田徑場、游泳池及其他球類場地，學校體育活動逐漸恢復。1980年，省體委確定岳云中學為省級田徑傳統項目學校后，學校在體育教學和課外體育活動中增加了田徑教學與田徑項目的比重，并組織全校田徑代表隊，每周堅持業余訓練8—9小時。1984年5月，參加衡陽市重點中學田徑運動會，獲高中女子組團體總分**名。1988年，全校學生達到《國家體育鍛煉標準》的比率已上升到85％。1980—1989年，岳云中學向體育院校輸送了24名專業人才。
新中國成立后，在人民政府的關懷支持下，歷屆岳云領導和師生弘揚炳麟先生精神，學校有長足發展，辦學規模不斷擴大，教育質量屢創新高，于1963年被省教育廳確定為全省首批十四所重點中學之一，并獲準在衡陽、邵陽、郴州等地區招生。
　　該校1992年被省教育廳確定為全省9所首批掛牌的重點中學之一，并先后獲得湖南省文明建設先進單位、藝術教育先進單位、園林式單位、綠色學校等十余項省級以上榮譽稱號。2002年11月，又被國家環保總局和教育部授予“全國創建綠色學校活動先進學校”光榮稱號。2004年5月，在省人民政府教育督導室督導評估中，成為全省106所重點中學中獲得表彰的10所學校之一，被評估團譽為“名副其實的三湘名校”。2004年該校被評為全省文明單位，2005年5月，該校被中華全國總工會授予“全國模范職工之家”光榮稱號，2007年，為表彰學校“校園詩教”的成績中華詩詞學會授予學校“中華詩教先進單位稱號”
　　。
　　近三年來，學生參加各種學科競賽，17人獲國家級獎勵，56人獲省級獎勵，347人獲市級獎勵。高考上線率和本科上線率連續8年(1993年－2000年)居省、市前茅，1998年本科上線率54.8％，居全省第四；1999年本科上線率66％，列全省第六；2000年上線率98.08％，本科上線率78.3％，其中重點本科上線率50.9％，按在校人數統計，上線率居全市**。學校各項工作得到了上級主管部門和新聞媒介的充分肯定，中國教育電視臺先后11次播放了反映岳云教育教學成績的專題片《站在新的起跑線上》，國家教育部已將“岳云中學”收入《中國著名中小學》和《教育大辭典》等書中。
　　但愿岳云中學和其他一些“百年中學”，依然能永遠保有往日的青春和大氣，恰如岳云校歌所唱：“衡岳之氣蒼蒼，化作云兮飛揚，為霖為雨兮普及七澤三湘。蓋中華兮增國光，自強不息休于藏，霖兮，雨兮，大哉岳云毋相忘！”