高士廉，名俭，字士廉，以字行于世。他出身名门，曾祖父高翻，字飞雀，是北齐神武帝高欢的叔叔，高欢在北魏为官的时候追赠其为太尉。祖父高岳，在北齐官至侍中、左仆射、太尉、清河王。父亲高劢，别名敬德，在北齐官至乐安王、尚书左仆射。齐亡入周后，依例授开府。隋朝建立后，历任扬、楚、广、洮四州刺史。 高士廉年轻时相貌俊朗，聪慧而有度量，广涉文史，书读一遍就能背诵，应对灵敏。隋司隶大夫薛道衡、起居舍人崔祖浚都是显贵重臣，与高士廉结为忘年之友，由此高士廉知名。高士廉认为自己是前朝北齐宗室之后，不欲广交师友，隐居于终南山下。隋炀帝大业年间，高士廉出任治礼郎。高士廉的妹妹高氏嫁给了隋朝右骁卫将军长孙晟。成亲后生下一子一女：长孙无忌和长孙氏。长孙晟死后，高士廉把他妹妹还有外甥、外甥女接到自己家里。后来，高士廉见尚未显贵时的李世民具有超常的才德，所以把外甥女嫁给他为妻，就是后来的文德皇后。
