早在汉代时期，尚方宝剑就已经被授予大臣了。
据说汉成帝在上位之后非常重视他的恩师张禹，直接让他的恩师当丞相，同时还封他为侯爷。原本皇帝想要重用谁，做臣子的都无法干涉，可是这位张禹在得到重用之后，却完全不把其他臣子放在眼里，仗着自己是皇帝的恩师，再加上自己又是丞相，做起事来向来都是毫无忌惮。
当时有一位名为朱云的大臣，对他的这种行为非常厌恶，于是便当着众人的面，向皇帝索要斩马剑用来杀一个奸臣，以警告其他臣子。皇帝看他如此有心，心里感到非常欣慰，于是便问他想要斩谁。朱云大胆果决的告诉他："丞相张禹"。皇帝听到一个臣子竟然那么放肆，敢弹劾自己最信任的老师，心里的愤怒之火一下子压制不住，直接下令拉朱云出去斩首。站立在旁边的士兵们听到皇帝的话语之后，上前把朱云拉出去，在过门槛的时候，朱云紧紧的拉住门槛，愣是把门槛给拉断了。
这时候朝中的左将军，摘下身上所有能够代表官位的东西，不断的磕头给朱云求情，皇帝看在左将军如此为他求情的份上，就饶过了他。这事完了以后，相关部门前来更换门槛，皇帝却拒绝更换，还说留下这已经被扳断的门槛来警示自己，同时也用它纪念敢于进言的臣子。
