没想到的是，去了冀州，被一群招军的人给截了胡，自己也被拉去充了军。几经周转，他还被卖给别人成为了奴隶，是金子去哪都发光，这里有一位老父也觉得他不是一般人，认为他能成大事。这些话在奴隶们之间也都传开了，最后传到了奴隶主的耳中。这个奴隶主倒也这样觉得，便将他放了。
虽说不再是奴隶，但石勒也没容身之处了，便去投奔了汉国，他在汉国的人缘与名声也混的很好，后来，同他一起谋事的伏利度问众人自己和石勒谁适合做主帅，众人一致选择了石勒。于是石勒便接手了伏利度的兵投奔了另一位大将刘渊。
在刘渊的手下，石勒为他也立下了不少的功劳，因为有石勒这类得力助手，没过多久，刘渊便称帝了。石勒也论功行赏被封为了平节，平东大将军。
