0.01960年5月，征地60余畝的上街區新建中學開建設，校址在濟源路，9月建成，招收4個班共200名初中生，12月根據河南省教育廳《關于校名編排意見》，上街區新建中學更名為鄭州市第四十一中學，此校名沿用了40年，鄭州二外至今還被人們習慣地稱為四十一中。后來，校區被各單位不斷蠶食，縮小為今天的濟源路老校區。
1976年后，隨著鄭州五十六中建成招收初中生，鄭州四十一中學逐步改為高中。1984年，鄭州四十一中增設職高班。1994年后，上街區政府進一步調整辦學思路，1995年，鄭州四十一中停止職高招生，恢復初中招生，初、高中并行辦學，成為一所完全中學。
2000年底，經原鄭州市教委、上街區政府批準同意，鄭州四十一中改建為鄭州市第二外國語學校，學校定位為外語特色完全中學。2001年5月12日，鄭州市第二外國語學校舉行了隆重的揭牌儀式，南海翔任校長。
2006年12月，上街區政府宣布開工建設上街區寄宿制中學，選址新安路東段，占地65畝，總投資6000萬元，建筑面積約32000平方米。
2007年8月初，上街區寄宿制中學主體工程竣工，區政府正式宣布對鄭州市第二外國語學校實施初、高中徹底分離，把鄭州二外初中部析出，成立鄭州市第二外國語中學，為單設初中，在鄭州二外原濟源路校區辦學；原鄭州二外領導成員和高中部師生員工整體搬遷到新建成的寄宿制中學校區。
2007年10月底，南海翔校長率領新的鄭州二外高中實現了整體搬遷。
2008年7月底，原鄭州100中學校長王寶鈞調任鄭州市第二外國語學校校長。
新校區教學設施先進，為上街區條件好的學校。在區政府的支持下，未來的鄭州二外新校區將建設成為精品花園學校。
2002年，鄭州二外首次榮獲鄭州市高中教育教學先進單位，此后連續6年獲此殊榮。2007年5月，經組考察，鄭州二外被鄭州市人民政府教育督導團認定為鄭州市示范性高中，成為上街區**所市級示范性高中。
近50年崢嶸歲月，鄭州二外師生不甘小、不示弱，敢于拼搏，在激烈的教育競爭中披荊斬棘，站穩了腳跟，贏得了發展，并不斷勇攀高峰。
