隋唐时期提起并州，通常有两层含义：
其一，并州和关中地区的雍州、关东的豫州、梁州等地并列为华夏十三州，其治府在晋阳。
其二，单指并州城，也称晋阳城。
自西晋末年，五胡乱华，经历了三百多年的战乱后，西汉武帝一朝开拓下的华夏疆域大大缩水，并州逐渐成为了抵御北方游牧民族南下侵扰的重镇，军事、政治地位都得到了显著提高。
在杨广奉旨以河北道行台尚书令的身份出镇并州以前的半个多世纪里，并州城更是一度作为北齐开国皇帝高欢、高洋父子长年驻跸，遥领朝政的别都，被冠以了一个听起来霸气十足的别称：霸城。
待至北周武帝宇文邕亲率十万大军，以弱胜强，一举攻灭了宿敌北齐，俘获并诛杀了北齐后主高纬、高恒父子不久，北周朝廷内部又爆发了内乱，以相州总管尉迟迥为首的三总管先后起兵反对杨坚，声噪一时。当时，时任并州总管的李穆的政治倾向如何，将直接影响着北朝朝局的走向。正是由于李穆坚定地站在了杨坚一边，才使得杨坚很快稳定了关东，继而任用韦孝宽、高颖等人发兵剿灭了叛乱，稳固了他的政治地位。
因此，在杨坚代周开隋之后，不仅将李穆封为三公之首的太师，恩荫李氏满门上下一百多口，而且立即将自己的次子，晋王杨广封做并州总管，急欲牢牢地把这座北境重镇掌握在自家人手中。
单从地理位置而言，并州城（晋阳）和东北方向的幽州相类似，地近北方游牧民族盘踞的辽阔草原，幽州以北不远有秦始皇时期就有的军事要塞临榆关，并州城以北约三十里处则建有扼长城要冲的雁门关，而且并州城地接东西，襟带九原，东、北、西三面环山，汾河自北向南穿城而过，地理位置较偏于东北一隅的幽州又胜过三分。无怪乎高洋要称并州城为霸城，在其取代东周建立北齐政权后，尽管建都邺城，但纵观北齐六世皇帝，对并州的重视程度一点儿也不亚于帝都邺城。
即如北周武帝宇文邕发起对北齐的灭国大战之初，北齐后主高纬还在晋阳宫附近和他最为宠爱的淑妃冯小怜狩猎，及至接到军报称，北周大军已挥师东进，连破数座城池，高纬仍因冯小怜向他撒娇称自己尚未捕得猎物，而不惜冒着灭国的风险继续留在晋阳宫陪她狩猎取乐。
当杨广在灵石堡和鱼俱罗带领的一百多名骠骑营将士会合，强忍胸中的愤懑和讶异，详细问明骠骑营昨夜和突厥铁骑一场血战的前后经过，命人就地草草掩埋了阵亡将士的尸骨，这才怀着沉痛的心情与鱼俱罗等人一道从灵石出发，赶往并州城。