Darbība notiek XX gadsimta sākumā (gados tieši pirms Pirmā pasaules kara uzliesmojuma) Šveicē, tuberkulozes sanatorijā, kas atrodas netālu no Davosas. Romāna nosaukums izsauc asociācijas ar Gerzelberga kalnu (Grēcīgais jeb Maģiskais kalns), kur, pēc leģendas teiktā, minnesinger Tannhäuser septiņus gadus pavadīja nebrīvē kopā ar dievieti Venēru.
Romāna varonis, jauns vācietis, vārdā Hanss Kastorps, ierodas no Hamburgas uz Berggof sanatoriju, lai apmeklētu savu brālēnu Joahimu Zimsenu, kurš tur tiek ārstēts. Hanss Kastorps plāno pavadīt ne vairāk kā trīs nedēļas sanatorijā, bet līdz paredzētā perioda beigām viņš jūtas slikti, ko pavada temperatūras paaugstināšanās. Medicīniskās apskates rezultātā viņam parādās tuberkulozes pazīmes, un pēc galvenā ārsta Behrensa uzstājības Hanss Kastorps ilgāku laiku paliek sanatorijā. Jau no paša ierašanās brīža Hanss Kastorps atklāj, ka laiks kalnos nemaz neplūst kā līdzenumā, un tāpēc ir gandrīz neiespējami noteikt, cik dienas, nedēļas, mēneši, gadi pagāja starp šiem vai aprakstītajiem notikumiem un cik ilgi viss romāns aptver. Romāna pašā beigās tomēr tiek teikts, ka Hanss Kastorps sanatorijā pavadīja kopumā septiņus gadus, taču pat šo skaitli var uzskatīt par noteiktu māksliniecisko konvenciju.
Faktiski sižets un notikumi, kas notiek romānā, absolūti nav svarīgi, lai saprastu tā nozīmi. Tie ir tikai attaisnojums, lai pretstatītu varoņu dažādās dzīves pozīcijas un dod autoram iespēju izteikt lūpas par daudziem viņam aktuāliem jautājumiem: dzīvību, nāvi un mīlestību, slimībām un veselību, progresu un konservatīvismu, cilvēku civilizācijas likteni uz 20. gadsimta robežas. Romānā iet garām vairāki desmiti varoņu - galvenokārt pacienti, ārsti un aprūpes personāls: kāds atveseļojas un atstāj Berghofu, kāds mirst, bet viņu vietā pastāvīgi nāk jauni.
Starp tiem, ar kuriem Hanss Kastorps tiekas jau pirmajās uzturēšanās dienās sanatorijā, īpašu vietu ieņem Lodovico Settembrini kungs - Carbonari pēcnācējs, brīvmūrnieks, humānists, pārliecinošs progresa atbalstītājs. Tajā pašā laikā viņš kā īsts itālis kaislīgi ienīst Austriju un Ungāriju. Viņa neparastās, reizēm paradoksālās idejas, kas izteiktas spilgtā, bieži vien kodīgā formā, ļoti ietekmē jaunā cilvēka prātu, kurš sāk godāt Sethembrini kungu par savu mentoru.
Svarīgu lomu Hansa Kastorpa dzīves vēsturē spēlēja arī viņa mīlestība pret sanatorijas krievu pacientu Madame Claudia Shosha - mīlestība, ar kuru, pateicoties stingrai izglītībai, kuru viņš ieguva kalvinistu ģimenē, sākumā izturējās pret visu savu spēku. Paiet daudzi mēneši, pirms Hanss Kastorps runā ar mīļoto - tas notiek karnevāla laikā Gavēņa priekšvakarā un Klaudija aiziešanas no sanatorijas laikā.
Sanatorijas laikā pavadīto laiku Hanss Kastorps nopietni aizrāva ar daudzām filozofiskām un dabaszinātņu idejām. Viņš apmeklē psihoanalīzes lekcijas, viņš nopietni studē medicīnisko literatūru, viņu interesē dzīves un nāves jautājumi, viņš studē moderno mūziku, savos nolūkos izmantojot jaunāko tehnoloģiju sasniegumu - ierakstīšanu utt. Būtībā viņš vairs nedomā par savu dzīvi līdzenumā, viņš aizmirst, ka atradīs tur darbu, praktiski pārtrauc saites ar dažiem nedaudzajiem radiniekiem un sāk uzskatīt dzīvi sanatorijā par vienīgo iespējamo eksistences veidu.
Ar savu māsīcu Joahimu situācija ir tieši pretēja. Viņš bija ilgi un smagi sagatavojies militārajai karjerai, un tāpēc katru papildu kalnos pavadīto mēnesi uzskata par neveiksmīgu šķērsli savas dzīves sapņa īstenošanai. Kādā brīdī viņš to nevar izturēt un, nepievēršot uzmanību ārstu brīdinājumiem, aiziet no sanatorijas, nonāk karadienestā un saņem virsnieka pakāpi. Tomēr paiet ļoti maz laika, un viņa slimība pasliktinās, tāpēc viņš ir spiests atgriezties kalnos, taču šoreiz ārstēšana viņam nepalīdz, un viņš drīz mirst.
Neilgi pirms tam Hansa Kastorpa paziņu lokā iekrīt jauns varonis - jezuīts Nafta, mūžīgais un nemainīgais Settembrini kunga pretinieks. Nafta idealizē Eiropas viduslaiku pagātni, nosoda pašu progresa jēdzienu un visu mūsdienu buržuāzisko civilizāciju, kas ietverta šajā koncepcijā. Hanss Kastorps nonāk zināmā apjukumā - klausoties Settembrini un Nafta garajos strīdos, viņš vienojas ar vienu, pēc tam ar otru, pēc tam atrod pretrunas gan vienā, gan otrā, tā ka vairs nezina, kura puse ir patiesa. Tomēr Settembrini ietekme uz Hansu Kastorpu ir tik liela, un jezuītu iedzimtā neuzticēšanās ir tik liela, ka viņš pilnīgi stāv pirmā pusē.
Tikmēr Madame Shosha kādu laiku atgriezās sanatorijā, bet ne atsevišķi, bet sava jaunā drauga - bagātā holandieša Peperkorna - pavadībā. Gandrīz visi Berggof sanatorijas iedzīvotāji nonāk šīs beznosacījumu spēcīgās, noslēpumainās, kaut arī nedaudz ar mēli saistītās personas magnētiskā ietekmē, un Hanss Kastorps jūtas ar viņu kaut kādām radniecīgām attiecībām, jo viņus vieno mīlestība uz to pašu sievieti. Un šī dzīve beidzas traģiski. Kad galu galā slimais Peperkorns dodas pastaigā līdz ūdenskritumam, visādi izklaidē savus biedrus, vakarā viņš un Hanss Kastorps dzer uz Brudershaft un pārslēdzas uz “tu”, neskatoties uz vecuma atšķirībām, bet naktī Peperkorn ņem indi un nomirst, drīz Madame Shosha pamet sanatoriju - uz šoreiz, acīmredzot, uz visiem laikiem.
No kāda brīža sanatorijas “Berghof” iemītnieku dvēselēs sāk sajust satraukums. Tas sakrīt ar jauna pacienta - dānietes Ellijas Brendas - ierašanos, kurai piemīt dažas pārdabiskas spējas, jo īpaši, kas spēj lasīt domas no attāluma un izraisīt garastāvokli. Pacienti ir atkarīgi no garīguma, sarīko sesijas, kurās ir iesaistīts Hanss Kastorps, neskatoties uz viņa mentora Settembrini kodīgo izsmieklu un brīdinājumiem. Tieši pēc šādām sesijām, iespējams, tiek pārkāpts viņu iepriekš noteiktais laika pavadīšanas laiks sanatorijā. Pacienti strīdas, kad šad un tad rodas konflikti visnozīmīgākajā gadījumā.
Vienā no strīdiem ar Nafta Settembrini apgalvo, ka viņš ar savām idejām samaitā jaunību. Sadursme noved pie savstarpējiem apvainojumiem un pēc tam uz dueli. Settembrini atsakās šaut, un tad Nafta izšauj galvā lodi.
Un tad pasaules kara pērkons pārsteidza. Sanatorijas iedzīvotāji sāk doties mājās. Hanss Kastorfs arī dodas uz līdzenumu, Settembrini kunga atdalīts, lai cīnītos tur, kur viņam tuvu ir asinis, lai gan pats Settembrini kungs, šķiet, šajā karā atbalsta pavisam citu pusi.
Pēdējā ainā Hanss Kastorps tiek attēlots skriejošs, rāpojošs, krītošs kopā ar tiem pašiem jaunajiem vīriešiem karavīra mēteļos, kuri iekrita Otrā pasaules kara gaļas mašīnā. Autors apzināti neko nesaka par sava varoņa galīgo likteni - stāsts par viņu ir pabeigts, un autore viņu neinteresēja pati par sevi, bet tikai kā stāsta fons. Tomēr, kā tika atzīmēts pēdējā rindkopā, Hanss Kastorps ir maz cerību izdzīvot.