五臺山位於山西省東北部，忻州市五臺縣和繁峙縣之間，西南距省會太原市230公里。與浙江普陀山、安徽九華山、四川峨眉山共稱「中國佛教四大名山」。與尼泊爾藍毗尼花園、印度鹿野苑、菩提伽耶、拘屍那迦並稱為世界五大佛教聖地，或者世界五大佛教名山 。
五臺山屬太行山系的北端，跨忻州市繁峙縣、代縣、原平市、定襄縣、五臺縣，週五百餘里。中心地區臺懷鎮，距五臺縣城78公里、繁峙縣砂河鎮48公里、忻州市150公里、山西省會太原市240公里。由一系列大山和群峰組成。其中五座高峰，山勢雄偉，連綿環抱，方圓達250公里。
五臺山最低處海拔僅624米，最高處海拔達3061.1米，為華北最高峰，有「華北屋脊」之稱。臺頂雄曠，層巒疊嶂，峰嶺交錯，挺拔壯麗，大自然為其造就了許多獨特的景觀。五臺山氣候寒冷，又被稱作「清涼山」。
五臺山奇峰靈崖隨處皆是，著名者達五十餘處。其中寫字崖，用水灑濕以後，拿手帕仔細拭擦，崖面會顯示出類似篆隸體字跡，水干字隱。有人曾除去表皮石層，結果下層仍能擦出字來。層層有字，字字不同。據載曾發現過「天之三寶日月星，地之三寶水火風，人之三寶精氣神」的聯句。平均海拔1100米以上，最高點北臺葉斗峰海拔3061.1米，被稱為「華北屋脊」。五臺山方圓約320公里，因五峰如五根擎天巨柱拔地而起、 巍然矗立，峰頂平坦如臺，故名五臺，五臺山群山環抱，中心起大突，可謂風水上佳。
五臺山由古老結晶岩構成，北部切割深峻，五峰聳立，峰頂平坦如臺，故稱五臺︰東臺望海峰、西臺挂月峰、南臺錦繡峰、北臺葉斗峰、中臺翠岩峰。五峰之外稱臺外，五峰之內稱臺內，臺內以臺懷鎮為中心。
李唐王朝起兵太原而有天下，所以視五臺山為「祖宗植德之所」。李淵在起兵反隋時，就對佛教許下大願，如果當上皇帝，一定大弘三寶。武德二年（619）李淵便在京師集聚高僧，立十大德，管理僧尼事務。唐太宗即位後，重興譯經事業，使波羅頗迦羅蜜多羅主持，又度僧三千人，並在舊戰場各地建造寺院。貞觀九年（635），太宗下詔曰：「五臺山者，文殊必宅，萬聖幽棲，境系太原，實我祖宗植德之所，切宜祗畏。」「是年，臺山建十剎，度增數百。」
五臺山實際上是指五臺縣的五座相互連接環繞、挺拔秀麗的山峰。它們分別是：東臺望海峰、西臺挂月峰、南臺錦繡峰、北臺葉斗峰和中臺翠岩峰。由於五山峰海拔均在3000米以上，因此除了一些虔誠的佛教徒能夠登臨五峰臺頂朝拜文殊菩薩外，很少有人能夠到達五臺。也是由於臺懷鎮寺院群分布在五座山峰之間，因此，人們通常就把到過臺懷鎮視為去過五臺山了。
五臺山原先並不叫五臺山，而是叫紫府山，也稱作五峰山道場。
至於五峰山更名為五臺山，這裡面還有一段鮮為人知的故事。據傳說，遠古時代的五峰山一帶氣候異常惡劣，常年酷暑，當地百姓苦不堪言，時逢文殊菩薩在那裡講經說法，見到黎民百姓的疾苦，深表同情，於是發大願拯救百姓脫離苦海。文殊菩薩裝扮成一個化緣的和尚，行程萬里到東海龍王那裡尋求幫助。他在龍宮門口發現了一塊能散發涼風的巨大青石，於是便把它帶了回來。當他把那塊大青石（東海龍王的歇龍寶石）放置在五峰山一道山谷裡時，剎那間，那裡一下就變成了草豐水美、清涼無比的天然牧場。此後，那條山谷也被起名叫做清涼谷。人們在山谷裡建了一座寺院，將那清涼石圈在院內。為此，五峰山又名清涼山。
後來，隋文帝聽說此事後，便下詔在五座山峰的臺頂各建一座寺院供奉文殊菩薩。即東臺頂的聰明文殊，西臺頂的獅子吼文殊，南臺頂的智慧文殊，北臺頂的無垢文殊，中臺頂的孺童文殊。在東臺頂能看日出，西臺頂能賞明月，南臺頂能觀山花，北臺頂能望瑞雪。這就是五臺山的由來。
