1957年，郑州师范专科学校附属中学成立，后改为郑州师范学院附属中学，这是河南省实验中学的前身。

20世纪60、70年代，该校先后更名为郑州大学附中、郑州市第四十中学。

1979年，当时的郑州市纬五路中学并入四十中学后，作为基础教育实验学校和实验园地，学校正式定名为河南省实验中学。

2000年7月，学校建立分校，当年秋季起开始招生。

2002年，成立特长生部，招收体音美特长生，同年秋季，开始接收西藏自治区学生就读，并与长城铝业公司子弟中学合作办学（2005年停招）。

2003年，获批开办普通高中“宏志班”，面向全省招生，同年成立国际部，中日班、中澳班（2006年秋季停招）、中加班开始招生。

2012年4月，经河南省教育厅、民政厅核准，河南省实验中学分校更名河南省实验文博学校，从当年秋季开始招生。

2015年3月，学校被确定为河南唯一一所空军青少年航空学校，从当年秋季开始设立航空实验班并正式招生。