湖南云岳中学由近代着名教育家何炳麟先生等人于1909年(清宣统元年)创办，初名“湖南南路公学堂”、“湖南第二公学堂”，1914年改为“湖南私立云岳中学”。初址设长沙戥子桥、荷花池，1938年因兵燹迁徙南岳，旋迁衡山白果、安化兰田，抗战胜利后，定址于南岳。1951年由人民政府接管，更名为“湖南省立云岳中学”，尔后又易名为“衡山第一中学”、“南岳第一中学”等，1984年经教育部批准，恢复“云岳中学”校名。
学校坐落于南岳衡山南麓，占地160余亩，前临南岳古镇，背倚紫云雄峰，其址为宋明时期文定、白沙、紫云三大书院故址，属湖湘学派发祥地之一，人文传统源远流长。校内苍松翠柏掩映如画，碑亭楼阁错落有致，人文传统与自然灵秀融为一体，为青少年求学修身之佳境。近百年来，学校共培养高初中、专修科毕业生4万余人，可谓英才辈出，如革命先驱杨开慧、李启汉、何孟雄、潘心源，军事将领邓华、成普，文学家丁玲、叶紫，音乐家贺绿汀，两院院士李薰、孟少农、曹建猷、钟训正等。
建校伊始，何炳麟先生即定下“以全面发展为宗旨、以数学体育为两翼、以勤恪忠毅为精神”的办学思想，力求培养情操高尚、体魄健全、思维敏捷的全面发展的人才。嗣后，全体师生遵循何公思想，矢志育才，奋力拼搏，办学成绩，蜚声华夏，享有“北有南开，南有云岳”之美誉，而数学、体育两科，更为云岳之骄傲。
新中国成立后，在人民政府的关怀支持下，历届云岳领导和师生弘扬炳麟先生精神，学校有长足发展，办学规模不断扩大，教育质量屡创新高，于1963年被省教育厅确定为全省十四所重点中学之一，并获准在衡阳、邵阳、郴州等地区招生。
改革开放以来，学校抓住改革和发展的大好机遇，与时俱进，始终坚持以“面向现代化、面向世界、面向未来”为办学方向，以“延聘好教师、招收好学生、办成好学校”为治校原则，以“人文环境与自然环境的和谐、学有特长与全面发展的和谐、现代革新与传统继承的和谐、物质待遇与精神激励的和谐”为追求目标，取得了令人瞩目的办学业绩：学校建设日新月异，办学规模不断扩大，办学条件不断改善；师资队伍全面优化，五人被评为全国优秀教师或劳动模范，七人被评为特级教师，一人连续当选为第九届和第十届全国人大代表；教育教学质量稳步上升，高考上线率、本科和重点本科上线率多次跻身全省前十强，连续九年荣获“衡阳市高中教学质量优胜单位”光荣称号，其中2004年我校高三381人参加高考，本科一、二批上线263人(其中本科一批171人，本科二批92人)，上线率69.03%，。z同学以686分的高分位居全省理科第8名，被清华大学录取；z同学也以高分被北京大学录取；z同学以合格的身体素质、优秀的高考成绩被北京航空航天大学飞行学院录取；z同学被中央美术学院录取。2005年我校高三368人参加高考，362人上本科，本科上线率98.4%，本科一、二批上线290人(其中本科一批148人，本科二批142人)，本科一、二批上线率78.8%，本科三批上线72人。王伟同学以682分的高分位居全省理科第8名，被清华大学录取；丁宇文同学以664分的高分位居全省文科第24名，被北京大学录取；z同学以658分的高分被北京大学录取，z同学被北京体育大学录取。今年我校600分以上的考生，文科有25人(全省文科600分以上的考生有1768人)，理科有20人(全省理科600分以上的考生有2772人)。
我校1992年被省教育厅确定为全省9所首批挂牌的重点中学之一，并先后获得湖南省文明建设先进单位、艺术教育先进单位、园林式单位、绿色学校等十余项省级以上荣誉称号。2002年11月，又被国家环保总局和教育部授予“全国创建绿色学校活动先进学校”光荣称号。2004年5月，在省人民政府教育督导室督导评估中，成为全省106所重点中学中获得表彰的10所学校之一，被评估团誉为“名副其实的三湘名校”。2004年我校被评为全省文明单位，2005年5月，我校被中华全国总工会授予“全国模范职工之家”光荣称号。
“衡岳之气苍苍，化作云兮飞扬；为霖为雨兮，普及七泽三湘”，而今，云岳正昂首阔步朝全国示范性高级中学的目标迈进。