商丘市第二高级中学的前身是河南省立商丘中学。于1905年(光绪31年)成立,中国四大书院之一的“应天书院”遗址上。当时名为归德府中学堂,知县薛鸿先兼任管理员(堂长),归德府经历司李耀枢兼任教务长,鹿邑县禀生阎扶南任庶务(即总务主任)。当年共招学生41名,学制4年。
1911年(民国元年)学堂迁至旧试院,改为河南省立商丘中学,占地10亩零5厘,学生3班。1921年(民国10年)3月改为河南省第三中学,有学生4班。1927年(民国16年)8月改为河南省立第二中学,学制改为3年。1933年拥有初中三个年级,每年级两班,共187人,是年暑假后改为河南省立商丘中学并在镇台衙门增设了高中部,招收高中一年级新生1个班,1934年(民国23年)又招收新生两班,1935年(民国24年)再招收新生两班,商丘中学成为完全中学,高中学制3年。
后因入侵,1938年(民国27年)1月,在校长王德明的领导下,学校迁至淮阳。高中部借用淮阳师范的一部分房子,初中部借用当地一私立初中为校址。7月因豫东沦陷,学校迁至鲁山。11月武汉失守,豫南各县沦为战区,学校又迁至浙川城西80里处的黄河街,后因部分草房起火,又迁至县东,50里处的马镫。1945年(民国34年)春,因敌伪进犯豫西,师生先后逃亡到西安、宝鸡等地。日本投降后,当年12月,由刘欣安老师带领师生回到原址复校。
解放前夕,高中奉令南迁浙江义乌县佛堂镇。1945年5月返商。1949年,省立商师、县立师范附属初中班、私立粹英中学并入,名为商丘中学。1950年,归德中学并入。1953年商中迁往商丘市西南郊,高中部单独建制为河南省立商丘高级中学,初中部单独建制为河南省立商丘第二初级中学。
1956年,河南省商丘师范迁出县城,商丘二中迁至商师原址。学校拥有三个年级,14个班,吕运起为校长。
1958年大跃进时,这里改为综合学校一部。1959年又恢复原校,崔明轩任党支部书记,朱云松任副校长。1961年四中并入后,改为商丘县一中,学校被地、县定为重点中学,李思明、李端、郭嗣荣、范兴侠、安中先、朱初基、陈传坤相继为校长。
1961年,改名为河南省商丘第二高中,迁往二师校址,有16个班,533人。
1969年,在停办后的新一中校址,以原二高和新一中的教师为基础重新组建成商丘县五七中学,该校为完全中学。1978年,停止招收初中生而改名为商丘县高级中学。校长杨明光任党支部书记,后陈一斋为校长。1985年,老领导离任,原副校长沙运启任校长,原副校长王圣位任党支部书记。
1998年3月,商丘地区撤地设市,学校更名为商丘市第二高级中学,米继堂任校长,刘金斋任党总支部书记。
原来的商丘市二高已在2004年更名为商丘市华侨良浩高级中学,简称良浩高中.