巨山在睢宁北部边境，距县城35公里，海拔213米，山势雄伟、峻而不险。据说，亿万年前，巨山就是一块完整的石头，山石坚巨，四周是一片大海，整座山只是突兀于海面的一盘礁石。此山不但高耸秀丽，而且因山上的弥陀寺、康熙行宫和众多知名历史人物，给巨山留下瑰丽的诗篇，为其披上一层神秘的色彩，让巨山成为千古名山。
峄峰群山环抱，周围的羊山、半戈山、象山、望山、小山、泰山、二龙山、汤山等诸山拱卫，惟巨山独秀，雄踞北方。相传巨山中有金马驹拉磨磨金豆子之说，意为宝山。其实此山真有宝藏，在1975年，经江苏省第五勘探队勘测，古邳的巨山、半戈山、羊山石英岩总储量达4.5亿吨。解放后，中国人民解放军曾在巨山顶上设防空雷达站。1982年，地方政府在山顶上又添设电视差转台，造福一方百姓。
