Mivel a tartomány a Tai Hang Shan-tól, vagyis a Tai Hang hegytől nyugatra fekszik, innen kapta a nevét Shanxi, amelynek jelentése: a hegyektől Nyugatra.. A tartomány a kínai Sárga-folyó középső folyásánál, az észak-kínai löszfennsík keleti részén terül el. A tartomány déli része a kínai kultúra egyik, 10 ezer évnél is régebbi bölcsője. Ősi fővárosok álltak itt, és az időszámítás szerinti 10. század előtt emelt faszerkezetes épületek 70%-a is Shanxi tartományban található. A hivatalos összesítés szerint a tartomány 10 nagy városában és majdnem 100 megyéjében rengeteg kulturális érték lelhető fel, amelyek közül több mint 119 áll állami védelem alatt.

Az országos látványosságok, parkok száma 24, Shanxi legnagyobb kincsei: a Jin emléktemplom a tartomány székhelye, Taiyuan közelében, valamint a Datong melletti Yungang sziklafaragványok, továbbá a Wutai hegyen létrejött buddhista királyság templomai.

A löszplató déli része volt az ősi Qin állam bölcsője. Ez a rész a Qin Shi Huang által egyesített birodalom létrejötte után az északi nomád törzsek behatolásai elleni küzdelem helyszíne lett. A Tang-kor után a terület csupán stratégiai szerepét tartotta meg, politikai-gazdasági jelentőségét elvesztette és csak a 19. században és a japán megszállás idején kezdi visszanyerni, amikor szénbányáit megnyitják. A Taiyuan és Datong környékén fellelhető bányák Kína széntartalékainak egyharmadát rejtik.

A tartomány területe 156 ezer négyzetkilométer, Kína összterületének 1,6%. Lakossága 2008-ban 34 millió volt. A tartomány Keleti részén húzódik a Taihang hegyvonulat, amit főleg a Wutaishan és a Hengshan hegy alkot. Délen és nyugaton a Sárga-folyó azaz a Huanghe, északon a Nagy Fal határolja. A Shanxi közepét átszelő Fenhe és mellékfolyói völgyek sorát alakították ki és táplálják vizükkel. Szomszédja északon a Belső-Mongólia Autonóm Terület, keleten Hebei, délen Henan és nyugaton Shaanxi tartomány. Han, hui, mongol és mandzsu nemzetiségűek élnek ebben a tartományban.

Éghajlatára a szárazföldi mérsékelt övben általános hideg tél és enyhe nyár jellemző. A januári átlaghőmérséklet -2 és -16 fok, a júliusi 19 és 28 fok között alakul.

Az évi 350-700 mm csapadék 60%-a nyáron esik. A legtöbbet a tartomány délkeleti, a legkevesebbet északnyugati rész kapja. Középső, termékeny völgyeiben a rizs, a búza és más gabonafélék mellett megterem a szója, a szezámmag, a földimogyoró és a gyapot. Fontos terménye még a dohány, a jinshani datolya és datolyaszilva, valamint a yuanpingi körte és a qingxu szőlő. A selyemszövés és hímzés hagyománya több ezer éves múltra tekint vissza a tartományban.

A tartomány székhelye Taiyuan 2400 éves várost korábban Jinyangnak hívták, s a Tavasz és Ősz korszakának végén, a Zhou dinasztia idején alapították. A 979-ben lerombolt határváros 3 évvel később Taiyuan néven épült újjá. Történelmét az északi nomád törzsek ellen folytatott küzdelmek sora jellemzi, talán ezért sem meglepő, hogy a háború istenének egykor 27 temploma állt városszerte.