Město je položeno ve členitém terénu na jižním okraji Pavlovských vrchů. Jeho dominantou je zámek na skále západně od náměstí.

Na východě je přírodní rezervace Svatý kopeček a na severu vrch Turold. Mezi ním a zámkem ještě ční menší vápencový pahorek se zříceninou Kozí hrádek, poskytující kruhový rozhled na celé město. Západní strana se otevírá do roviny, na jihu se nedaleko od města nachází nevysoký Šibeniční vrch a pod ním rybník Šibeník. Další vodní plochou v zázemí Mikulova je zatopený lom Janičův vrch při silnici na Velké Pavlovice.