休宁历史悠久,文化源远流长。公元前11~8世纪境内就有定居居民,并形成族国,春秋战国时期(公元前8~3世纪),休宁先后为吴、越、楚三国之领地。秦汉时期为歙县西乡之地,秦属会稽郡、鄣郡,汉属丹阳郡。东汉建安十三年(208年)分歙县西乡设置休阳县,县治鸺山之南。吴永安元年(258年)改名海阳县,县治万安万岁山,隶属新都郡。晋太康元年(280年)改新都郡为新安郡,海阳县为海宁县。此后,经唐、宋、元、明、清、民国各代至新中国成立,县名均未改变。县治自唐天宝九年(750年)定驻松萝山之南海阳镇延续至今。境域大部未变,局总边缘地域曾有划进划出调整。
新中国成立后,休宁县隶属徽州专区、芜湖专区、徽州地区。1987年11月始隶属地级黄山市至今。