隋开皇十六年（公元596年），褚遂良出生，其父褚亮为隋朝的散骑常侍。在父亲褚亮的影响下，褚遂良早青年时期便出入官场，同时又大量涉猎书籍，专心于书法艺术创作。此外，褚亮与书法家欧阳询、虞世南等为官场同僚，褚遂良得以学习二人的书法思想。隋大业末年，金城校尉薛举起兵叛乱，登基称帝，将褚亮任命为黄门侍郎，褚遂良则担任通事舍人之职，负责掌管诏命文书、呈奏文章等。 唐朝建立后，唐高祖李渊命其子秦王李世民平定各方割据势力，此时，薛举已经逝世，其子薛仁杲继位，向唐朝投降，褚遂良归附唐朝，被李世民任命为秦王府的铠曹参军。 李世民登基后，将褚遂良升迁为秘书郎，在书法家虞世南、侍中魏征的带领下，掌管经史子集四部图书，并担任弘文馆馆主，参与政务商议。之后，褚遂良改任起居郎，负责记载皇帝的言行。褚遂良对文史知识涉猎广泛，擅长隶书和楷书。贞观十二年（公元638年），虞世南逝世，李世民对侍中魏征感慨道虞世南死后，没有人与自己谈论书法，魏征向李世民推荐了褚遂良，认为他下笔遒劲，很有王羲之的风范，李世民便召见褚遂良，将其任命为侍书。 贞观十五年（公元641年），李世民准备前往泰山举行封禅大典，在到达洛阳时，天上出现了彗星，褚遂良便向李世民上书劝谏，认为李世民功绩超过前代皇帝，是天下的大幸，而此时彗星出现，或许是上天不允许举行封禅，并以当年汉武帝犹豫多年后才决定举行泰山封禅为例，请求李世民再三考虑。李世民接纳了他的意见，下诏停止封禅之事，并将褚遂良改任为谏议大夫。
