Zamisel o novi zgradbi se je porodila pred sedemnajstimi leti, ko je Veliko vojvodstvo postalo ena od šestih držav ustanoviteljic Evropske unije, oblasti pa so se odločile, da bodo podprle podobo Luksemburga ne le kot gospodarsko uspešne države, ampak tudi kot pomembno kulturno središče celine. Vendar pa je sama ideja o ustvarjanju zbirke sodobne umetnosti in njeno arhitekturno utelešenje v obliki projekta J. M. Pei je naletela na odpor v različnih krogih konservativno naravnane družbe. Posledično je bil njegov koncept večkrat revidiran, načrtovanje in celo gradnja prekinjena. Šele leta 1997 je bilo mesto za muzej določeno: ruševine trdnjave Tungen (1732), ki so bile vključene v novo stavbo. Leta 1999 se je začela gradnja, nato pa je bila za štiri leta prekinjena, ker je Pei za svojo gradnjo hotel uporabiti le zlati apnenec iz Francije, kar je povzročilo številne nove težave.
Težave so se pojavile tudi pri zbirki: ker v Luksemburgu nikoli ni bilo zbirke umetnosti 20. stoletja, jo je bilo treba ustvariti. Zaradi omejenih sredstev ni bilo govora o nakupu del Dalija in Picassa: velika večina eksponatov iz 230 muzejskih predmetov pripada obdobju po letu 1980. Toda po besedah direktorice muzeja Marie-Claude Beaux je namenjen nadaljnjemu širjenju zbirke, zbiranju umetnosti prihodnosti, umetnosti XXI stoletja.
Kompleks se nahaja sredi parka, med dvema poslovnima okrožjema mesta. Njegova značilnost je zelenkast steklen stolp nad glavnim atrijem, ki spominja na trdnjavo, nad katero je bil zgrajen. Skoraj vsa tla glavnega sloja so steklena, zato ima večina dvoran naravno svetlobo. V pritličju sta dve majhni galeriji in predavalnica. Zunaj so stene muzeja obložene z apnencem medene barve, glavni vhod muzeja je kompleksna prostorska kompozicija v obliki niše. Skupna površina stavbe je 10.000 kvadratnih metrov. m, od tega 4.800 kvadratnih metrov m - razstavni prostori. Muzej nosi ime velikega vojvode Jeana, ki je zdaj upravljanje države prenesel na svojega sina Henrija.
