此曲最早见于明朝朱权编写的《神奇秘谱》， 其题解说：“臞仙曰，是曲者，宋毛仲翁所作，其趣也，巢云松于丘壑之士，澹然与世两忘，不牵尘网，乃以大山为屏，淸流为带，天地为之庐，草木为之衣，枕流漱石，徜徉其间。至若山月江风之趣，鸟啼花落之音，此皆取之无禁，用之无竭者也。所谓乐夫天命者，以有也夫。又付甘老泉石之心，尤得之矣。”

在明朝万历十三年(1585)《重修真传琴谱》中也有记载，其原文解题说：“此毛仲翁所作也。见其与世两忘不牵尘网。乃以太山为屛。淸流为带。天地为之庐。草木为之衣。枕流漱石。徜徉其间。真乃谓乐天知命者矣。”

继《神奇秘谱》之后就有23部琴谱中有48曲关于山居吟的记载。由此可见该琴曲的重要性。