合州于
梁武帝时期设立,属合州
汝阴郡,为州、郡治。
太清二年(548)八月,
侯景反寿阳南下,今县境于三年(549)入
东魏,仍为
庐江郡,改庐江县为
灊县,改属合州(治汝阴,今合肥市)。
武定八年(550)五月,今县境属
北齐,初仍旧制,设灊县、南始新县、北始新县,属合州(治汝阴,今合肥市)庐江郡(治灊县)。陈太建五年(573)五月,伐北齐,复改灊县为庐江县。时庐江郡仅领庐江一个县,属合州(治汝阴)。隋开皇元年(581年)改汝阴县为
合肥县,改合州为庐州,属庐州,为州治。
南朝梁太清元年(547年)七月甲子,改设合州于汝阴(今合肥)。以故合肥县为州名。太清二年(548年),合州入东魏,梁改治江滨。东魏及北齐初,仍为合州治今合肥。陈、北周仍旧制。北周大定元年(581年)二月,隋代北周,合州改属隋朝,仍其旧制。开皇三年(583年),废郡,撤县,改合州为庐州。