南宁市第二中学最早可追溯到清光绪三十二年(1906年),时任南宁知府杜庆元、学务公所李祖若等人于在苍西门大街创办的南宁府中学堂。
清宣统三年(1911年),更名为南宁府中学校。
1913年,更名为南宁中学校。
1917年,更名为广西省立第一中学。
1929年,广西省立第一中学分设高中部和初中部。同年,广西省第三师范并入广西省立第一中学高中部。
1931年,广西省立第一中学高中部更名为广西省立第一高级中学,初中部更名为广西省立第一初级中学。
1934年,更名为广西南宁高级中学。
1944年,南宁女子中学与广西省立第一初级中学、广西南宁高级中学合并成立广西省立第一联合中学。
1946年,广西省立第一联合中学解体,拆分为省立南宁高级中学、南宁初级中学、南宁女子中学(后更名为南宁女子师范初中部)。
1947年,南宁初级中学更名为邕宁县第一中学。
1950年2月,省立南宁高级中学、邕宁县第一中学、南宁女子师范初中部(后增设高中部)合并为南宁中学。
1953年,更名为南宁高级中学。
1954年8月,南宁高级中学迁往垠边村新校址,在原南宁高级中学旧址(经文街)新办一所完全中学,定名为南宁市第二中学。
2008年,第一批学生入驻南宁市第二中学凤岭校区。
2009年6月28日,凤岭校区举行落成典礼。
2013年,学校与广西—东盟经济技术开发区联合创办南宁市第二中学东盟校区(官方定名“南宁市东盟中学”),并设高中部和初中部。