El nombre de Mudeungsan no siempre tuvo su significado actual. Durante el período Baekje, la montaña llevaba el antiguo topónimo "Mi-dong" (未冬), una transliteración en caracteres chinos de la palabra coreana nativa "muldeul" o "mudol", que significa humedal. Durante el período de Silla Unificada, se la llamó "Mujinak" o "Muak", tomado de "Mujinju", el nombre de Gwangju en aquella época. En la dinastía Goryeo, la montaña también se llamó "Seoseoksan" (瑞石山, "Montaña de Piedra Auspiciosa"), y con el tiempo, a medida que el budismo se arraigó en Corea, la gente empezó a describir la montaña como tan imponente que nada en la tierra podía compararse ("deung", "gradación") con ella; de ahí "mu-deung", o "incomparable", un término de reverencia originalmente aplicado para describir la grandeza de Buda. Una humilde palabra antigua para humedal se transformó, a lo largo de más de mil años, en un nombre que pone a una montaña a la altura de Buda.
Las columnas de piedra que coronan la cumbre, Seoseokdae e Ipseokdae, están a la altura del elevado nombre de la montaña. Hace aproximadamente entre 87 y 85 millones de años, durante el período Cretácico tardío, los depósitos de ceniza volcánica (toba) de una erupción se enfriaron lentamente; a medida que la roca se contraía al enfriarse, las grietas de tensión formaron las columnas de piedra poligonales características de la montaña, conocidas como diaclasas columnares. Seoseokdae, menos erosionada, presenta unas 200 columnas de aproximadamente 1 a 2 metros de ancho y 30 metros de alto, alineadas hombro con hombro como un biombo. Ipseokdae, más erosionada, muestra formas de columnas individuales más definidas. Estas formaciones nunca se vieron como simple paisaje: desde la dinastía Goryeo, se las consideró piedras auspiciosas y se convirtieron en objeto de culto chamánico. Reconocidas por su valor científico y escénico, las columnas fueron declaradas Monumento Natural N.º 465 ("Diaclasas Columnares de Mudeungsan") en 2005, y la montaña se convirtió en el 21.º parque nacional de Corea del Sur el 27 de diciembre de 2012.
Un detalle que la mayoría de los visitantes nunca llega a conocer: lo que la mayoría de los excursionistas fotografía como "la cumbre" es en realidad Seoseokdae, pero el verdadero pico es Cheonwangbong, a 1.187 metros. Cheonwangbong se encuentra dentro de una zona bajo protección militar que alberga una instalación antiaérea de la Fuerza Aérea, por lo que está cerrada al público excepto en fechas específicas cada año, y solo para visitantes que se registran con antelación. Eso convierte a Seoseokdae, a unos 1.100 metros, en el punto más alto al que los excursionistas pueden llegar legalmente sin un permiso. Es decir, la "foto de la cumbre" que la mayoría de los viajeros se toma aquí es, estrictamente hablando, tomada justo antes de la cumbre real. Se puede iniciar el ascenso desde cualquiera de los dos puntos de entrada: el área de Jeungsimsa en Dong-gu o el área de Wonhyosa en Buk-gu, lo que significa que se puede salir del centro de Gwangju directo hacia una montaña cuyo nombre se ha reescrito a lo largo de quince siglos.