隋朝末年，李渊在太原起兵，房玄龄立即投奔李世民，在李世民手下供职十多年，掌管各种文书的起草，他的文字功夫好，善于揣摩李世民的心意，深得李世民的喜爱。连李渊也夸奖他：“足堪委任，每为我儿陈事，必会人心，千里之外犹对面语耳。”