武義地形西南高、東北低，南部、西部和北部三面環山，峰巒連綿。境內山脈屬浙中山系，包括西南部來自遂昌縣界的仙霞嶺山脈，東南部來自縉云縣界的括蒼山脈，東北部來自義烏和永康的仙霞余脈的八素山脈。全縣千米以上山峰有102座，西部西聯鄉的牛頭山海拔1560.2米，為金華市的第一高峰。

　　境內最低處為北部履坦鎮范村，海拔高度僅57米。中部丘陵蜿蜒起伏，其間樊嶺--大廟嶺東西向橫貫縣境中部，形成武義和宣平兩個河谷盆地，并把縣境內的水流分成錢塘江、甌江兩大水系。