曹操又不能杀他，于是就想了个借刀杀人之计，把祢衡强行押送给刘表，希望祢衡的臭嘴激怒刘表，让刘表把他杀死。
刘表早就知道祢衡的大名，对他的才学十分佩服，所以对他并不歧视，相反还礼节周到，把他奉为上宾。刘表让祢衡掌管文书，"文章言议，非衡不定"，十分信任。但祢衡这个才子的致命弱点是目空一切。有一次他外出，刚好有份文件要马上起草，刘表于是叫来其他秘书，让他们共同起草。他们"极其才思"，好不容易把文件写好了，谁知祢衡一回来，拿起文件草草看了一下，就说写得太臭，然后把它撕得粉碎，掷于地下，接着他便要来纸笔，手不停挥地重新写了一篇交给刘表。他写的这份文件因"辞义可观"，甚得刘表好感，但却把别的秘书得罪光了！他不但经常说其他秘书的坏话，而且渐渐地连刘表也不放在眼里，说起话来总是隐含讥刺。刘表本来就心胸狭窄，自然不能容忍祢衡的放肆和无礼。但他也不愿担恶名，就把祢衡打发到江夏太守黄祖那里去了。
刘表把祢衡转送给黄祖，是因为他知道黄祖性情暴躁，其用意显然也是借刀杀人。祢衡初到江夏，黄祖对他也很优待，也让他做秘书，负责文件起草。祢衡开头颇为卖力，工作干得相当不错。然而，有一次黄祖在战船上设宴会，祢衡的老毛病又犯了，竟当着众宾客的面，尽说些刻薄无礼的话！黄祖呵斥他，他还骂黄祖这个"死老头，你少啰嗦！"当着这么多的人面，黄祖哪能忍下这口气，于是命人把祢衡拖走，吩咐将他狠狠地杖打一顿。祢衡还是怒骂不已，黄祖于是下令把他杀掉。黄祖手下的人对祢衡早就憋了一肚子气，得到命令，黄祖的主簿（也是秘书！）便立时把他杀了。
