旦一同留守洺州。窦建德在虎牢关之战中被秦王李世民生擒，曹旦接受长史李公淹与唐朝使臣魏徵的劝说，决定降唐，便让裴矩与李公淹、魏徵前往长安，并将崤山以东地区全部献给唐朝。裴矩被授为殿中侍御史，封安邑县公。

西突厥统叶护可汗遣使朝，请求和亲，唐高祖认为西突厥距离唐朝甚远，难以提供援助，因而犹豫不决，裴矩进言道：“如今东突厥强盛，为国家当前的利益着想，应该远近攻。臣认为应该答应和亲，以威慑颉利可汗。等中原国力殷实，能对抗东突厥，我们再考虑适宜的对策。”唐高祖听从了他的建议。

李世民发动玄武门之变，诛杀太子李建成、齐王李元吉。二王余党退守东宫，欲与李世民决战，李世民命裴矩前往劝谕，东宫兵马纷纷逃散。不久，李世民被立为皇太子，继承帝位，，任命裴矩为民部尚书。当时，裴矩年近八十，但却神矍铄，又通典制，受太宗推崇，裴矩病逝，时年80岁，追赠绛州刺史，谥号为敬。