不过石勒并不接受，他认为自己与刘曜一同被刘聪封为辅政大臣，同样军功赫赫，实力相当，就对刘曜很不服。刘曜其实对石勒也不怎么信任，公元319年二月，石勒的左长史王修被刘曜杀了。石勒得知后非常愤怒，就宣布公开与刘曜决裂。同年十一月，46岁的石勒在襄国（河北邢台一带）建立政权，自称赵王，他也将国号定为“赵”，以示与刘曜对立。为了区分他们，历史上将刘曜的政权称为“前赵”，石勒的政权称为“后赵”。
治国有方居功不傲
石勒称帝后，为政勤勉，他虽然没有念过什么书，却治国有方。他是凭武力得位的莽汉，却也很清楚发展生产才是增强国力的第一要务。为了更好地统治后赵人民，他采取了很多安抚措施。他为普通百姓减租，又分给每位孤寡老人三石谷子，并奖励那些出名的孝子和努力耕作的农民。这样，他不仅调动了农民的生产积极性，也赢得了百姓的拥戴。
为了巩固后赵的政权，石勒还对有功的大臣进行封赏，这样他得到了更多的拥护。石勒是羯族人，自然会努力提高族人的地位，不过他对汉族名士也同样重用。石勒是个文盲，却也是十六国统治者中最尊重知识，尊重士人的君主。石勒喜欢读书，经常向士人们请教，同时他又勤于思考，能提出许多好的见解。石勒很赏识汉族文人，对他们都委以重任，谋士张宾就是其中一个。在张宾的辅佐下，他恢复了租庸剥削，制定了门阀士族的九品等级，又崇尚儒学，倡导佛教。于是，石勒的势力很快就发展起来。北方的许多寒门士人也投身到石勒的军中效力，石勒将他们组编成了君子营。他称帝后，还曾专门下令保护士人，凡是部下抓获的士人，他都要亲自处理。此外，石勒还创办学校，鼓励将领们的子弟去学习。为了选拔人才，他还建立了举荐和考试制度。这样，石勒的政治就比较开明，社会逐渐变得安定繁荣起来。后赵前期出现了兴盛的景象，疆土范围扩展到西起今陕西，甘肃，东至河北东北部，南至湖北与安徽，包括了整个中原地带，这样它就成了十六国中最强大的政权。