Mýtus o vzniku této hry přiříkává autorství slavnému čínskému filozofovi a badateli Konfucius. Ten jí podle všeho začal hrát někdy kolem 500 před naším letopočtem, přičemž motivací mu byla karetní hra podobná Rummám. Mah-jong [madžong/mahdžan/ma dža] dostal pojmenování po vrabci, jemuž byla v dávné Číně připisována role ptáka mystické inteligence. Původní variace Mahjongu obsahovala 136 kamenů a byla určena pro čtyři hráče. Kameny byly vyrobeny z bambusu, dřeva nebo kostí. 108 z nich se dělilo na kolečka, bambusy a znaky. Ty byly číslovány od 1 do 9. Dále mahjong obsahoval runy pro severní, východní, západní a jižní větry, kameny pro červené, zelené a bíle draky. Všechny kameny byly párovány po čtyřech. V pozdějších variacích se začalo využívat až 144 kamenů, kdy přibyly symboly pro květiny a čtyři roční období. Měnil se i počet hráčů, z původních čtyř vznikli různé mutace pro jednoho až šest. K popularizaci této logické hry vyžadující smysl pro strategii a výtečnou paměť došlo po druhé světové válce. Expanzí do USA došlo k zásadnímu zjednodušení a tím i rozšíření k široké veřejnosti.