以后跟随赵匡胤打天下。宋朝开国后，赵普历任宋太祖赵匡胤和宋太宗赵匡义两朝的宰相，自称半部《论语》帮助赵匡胤打天下，另外半部《论语》帮助赵匡义治理天下。
赵普白天忙于处理国家政务夜晚则读《鲁论》，所谓“鲁论”就是鲁国通行的《论语》二十篇。据说每当遇到重大问题，赵普总是说：“明天再做决策。”晚上回家以后，他从箱子里面拿出一本书仔细地读，第二天准能够提出一个很高明的见解。
时间久了大家都很奇怪，觉得赵普家里一定藏有什么秘籍宝典，于是买通他的家人打探这个秘密。有一天，家人趁他不在家把书拿出来一看，原来是《论语》。可是谁也不相信，怎么可能是人人皆知的《论语》呢？
赵匡胤得知此事，亲自到他家来探问，赵普就把那本《鲁论》拿了出来。赵匡胤说：“此为朕幼年所习，如今卿家还在读吗”？赵普回答说：“齐家治国平天下的道理尽在其中”。宋太宗继位以后仍然想用赵普为宰相，有人说赵普的坏话，说他只能读《论语》。太宗如实以告，赵普说：“臣实不知书，只能读《论语》。我辅助太祖定天下只用了半部《论语》，尚有半部可以辅助陛下致太平”。
