山海关古称榆关、渝关、临渝关、临闾关。古渝关在抚宁县东二十里。北倚崇山，南临大海，相距不过数里，非常险要。
隋开皇三年（583年），筑渝关关城。开皇十八年（598年），隋文帝命汉王杨谅将兵伐高丽，出临渝关。正值涨水季节，后勤运输不力而还。大业九年（613年），杨玄感起义，李密谓杨玄感曰：天子出征，远在辽外。据临渝之险，扼其咽喉，可不战擒也。大业十年（614年），隋炀帝复议伐高丽，至临渝宫。
唐贞观十九年（645年），唐太宗征高丽，自临渝还。开元二十年（732年），契丹首领可突干叛乱，幽州道副总管郭英杰屯于渝关外，为可突干所败。天宝十五载（756年），安禄山叛乱，平卢军节度使刘正臣来归，不久遣先锋使董秦袭渝关，入北平。天复三年（903年），契丹阿保机遣其将阿钵寇渝关，刘守光戍平州，诱执之。
五代后梁乾化年间，渝关为契丹所取，薛居正指出：“渝关三面皆海，北连陆。自渝关北至进牛口，旧置八防御兵，募士兵守之，契丹不敢轻入。及晋王李存勖取幽州，使周德威为节度使，德威恃勇，不修边备，遂失渝关之险。契丹刍牧于营、平二州间，大为边患。”后唐清泰末年，赵德钧镇守卢龙，石敬瑭在太原叛乱，并求援于契丹，耶律德光许之，其母述律后曰：“若卢龙军北向渝关，亟须引还，太原不可救也。”宋宣和末年，渝关为女真所得。
明朝洪武十四年（1381年），中山王徐达奉命修永平、界岭等关，带兵到此地，以古渝关非控扼之要，于古渝关东六十里移建山海关，因其北倚燕山，南连渤海，故得名山海关。
临榆县明代属永平府，境内建制卢龙县、抚宁县、昌黎县、永平卫、山海卫。县下实行里甲制，里亦称社、屯，当地民编为社，迁来者编为屯。清代，沿用明制，属直隶省永平府，辖卢龙、抚宁、昌黎县。
清乾隆二年（1737年）在山海关增设临榆县。《大清一统志·永平府·临榆县》中记载：“秦皇岛，在临榆县西南二十五里，入海一里，四面皆水。相传秦始皇尝驻跸于此。”乾隆二十一年《临榆县志·古迹》中记载：“秦王岛，在城西南二十五里，海水环之。世传秦始皇求仙驻跸于此。”光绪四年《临榆县志》对秦皇岛的描述见多且详：“秦王岛，距城西南二十五里，山脉由东转西，插入海中，横压水面，远望形如卧蚕，海阳镇之水口山也，上有观音寺。”
山海关1990年以前被认为是明长城的东北起点（现已发现的明长城的起点于辽宁省丹东市宽甸县虎山镇——虎山长城），境内长城26公里，位于秦皇岛市以东10多公里处。据史料记载，山海关自1381年建关设卫，至今已有600多年的历史，自古即为我国的军事重镇。山海关的城池，周长约4公里，是一座小城，整个城池与长城相连，以城为关。城高14米，厚7米。
明末女将军秦良玉镇守过山海关。李自成与吴三桂在此激战。我国著名诗人查海生在附近卧轨自杀。
