商丘市第二高級中學的前身是河南省立商丘中學。于1905年(光緒31年)成立，中國四大書院之一的“應天書院”遺址上。當時名為歸德府中學堂，知縣薛鴻先兼任管理員(堂長)，歸德府經歷司李耀樞兼任教務長，鹿邑縣稟生閻扶南任庶務(即總務主任)。當年共招學生41名，學制4年。

1911年(民國元年)學堂遷至舊試院，改為河南省立商丘中學,占地10畝零5厘，學生3班。1921年(民國10年)3月改為河南省第三中學，有學生4班。1927年(民國16年)8月改為河南省立第二中學,學制改為3年。1933年擁有初中三個年級，每年級兩班，共187人，是年暑假后改為河南省立商丘中學并在鎮臺衙門增設了高中部，招收高中一年級新生1個班，1934年(民國23年)又招收新生兩班，1935年(民國24年)再招收新生兩班，商丘中學成為完全中學，高中學制3年。

后因日寇入侵，1938年(民國27年)1月，在校長王德明的領導下，學校遷至淮陽。高中部借用淮陽師范的一部分房子，初中部借用當地一私立初中為校址。7月因豫東淪陷,學校遷至魯山。11月武漢失守，豫南各縣淪為戰區，學校又遷至浙川城西80里處的黃河街，后因部分草房起火，又遷至縣東，50里處的馬鐙。1945年(民國34年)春，因敵偽進犯豫西，師生先后逃亡到西安、寶雞等地。日本投降后，當年12月，由劉欣安老師帶領師生回到原址復校。

解放前夕，高中奉令南遷浙江義烏縣佛堂鎮。1945年5月返商。1949年，省立商師、縣立師范附屬初中班、私立粹英中學并入，名為商丘中學。1950年，歸德中學并入。1953年商中遷往商丘市西南郊，高中部單獨建制為河南省立商丘**高級中學，初中部單獨建制為河南省立商丘第二初級中學。

1956年，河南省商丘師范遷出縣城，商丘二中遷至商師原址。學校擁有三個年級，14個班，呂運起為校長。

1958年大躍進時，這里改為綜合學校一部。1959年又恢復原校，崔明軒任黨支部書記，朱云松任副校長。1961年四中并入后，改為商丘縣一中，學校被地、縣定為重點中學，李思明、李端、郭嗣榮、范興俠、安中先、朱初基、陳傳坤相繼為校長。

1961年，改名為河南省商丘第二高中，遷往二師校址，有16個班，533人。

1969年，在停辦后的新一中校址，以原二高和新一中的教師為基礎重新組建成商丘縣五七中學，該校為完全中學。1978年，停止招收初中生而改名為商丘縣**高級中學。校長楊明光任黨支部書記，后陳一齋為校長。1985年，老領導離任，原副校長沙運啟任校長，原副校長王圣位任黨支部書記。

1998年3月，商丘地區撤地設市，學校更名為商丘市第二高級中學，米繼堂任校長，劉金齋任黨總支部書記。

原來的商丘市二高已在２００４年更名為商丘市華僑良浩高級中學，簡稱良浩高中．