虽然在演义小说里面，李家起兵之后，一路极为顺遂，没过几年就统一天下了。但实际上，在李渊刚开始起兵的一年里，尤其是还没有打下长安之前的这段时间里，局面是相当困难的。一方面，当时杨广还没死，隋朝的剩余力量还很强。另一方面，关中是隋朝的老家，虽然隋炀帝南下江都的时候，带去了大部分精锐，但余下的守军依然很强大。所以对于从太原千里奔袭的李渊，很多人当时其实并不是特别看好，也不愿在局势彻底明朗之前，就投奔李渊。
这就导致，李渊在拿下长安之前，麾下能力特别强而且又能独挡一面的，其实并不是很多。所以，这时的李渊，对于人才那是相当的看重。
陈叔达显然符合李渊的心理预期。
作为当年南陈的亡国王爷，陈叔达虽然不善军务，但是在治政和文治方面，却有很强的能力。这样的人才，正是当时李家所需要的。所以，陈叔达投降后，李渊当即对其委以重任。拿下长安之后，李渊立代王杨侑为帝，自任为大丞相，陈叔达则被任命为丞相府主簿，掌握丞相府的机密文书工作，被封为汉东郡公。后来李渊登基以后，陈叔达升任为黄门侍郎，成为李渊真正的心腹。
