L'ensemble des bâtiments de la butte de la Cathédrale, autrefois forteresse médiévale, comptent parmi les monuments classés du plus rang. Les ouvrages les plus vieux, ce sont l'archicathédrale gothique entourée de murailles et le palais épiscopal du XIVe siècle, qui abrite actuellement le musée Copernic.