临海郡始设于三国吴太平二年（257年），由
会稽郡东部析置而成，隶属
扬州。其初置时辖境广阔，涵盖今浙江
台州、温州、丽水全境及闽北沿海地区。
东晋太宁元年（323年）分置
永嘉郡后，辖区调整为
章安、临海等4县。郡治历经章安与临海两地迁移，隋开皇九年（589年）废郡建制，唐代曾短暂复置，最终于乾元元年（758年）改称台州。
三国吴太平二年（257年），为加强对东南沿海控制，
吴景帝分会稽郡东部置临海郡，成为台州地区首个郡级行政区。
西晋时期延续郡制，至隋开皇九年（589年）全国废郡改州时被废止。唐天宝元年（742年）复置临海郡，
乾元元年。
初置时下辖章安、临海、始平、
永宁、
松阳、罗阳（后改安阳）、罗江7县，其中永宁县辖域包括今温州地区。东晋太宁元年（323年）分南部永宁、安固、松阳、横阳4县置永嘉郡后，临海郡辖境缩减为章安、临海、
宁海、始丰4县。南朝时期持续调整，至
陈朝时辖有章安、临海、始丰、宁海4县。