吕端出生的时候，北宋还没有建立，他靠着父荫成为了千牛备身，从此步入仕途。赵匡胤建立北宋后，官职进一步提升。一直到宋太宗登基后，他的命运再次迎来改变。
虽然他几经沉浮，历任朝内外数个官职，但并没有特别突出的政绩，不过他还是被众人所熟知。宋太宗想提拔他，可就这样一个人，冷不丁成为宰相，他也担心诸臣不服。
《宋史·吕端传》："太宗欲相端。或曰：'端为人糊涂。'太宗曰：'端小事糊涂，大事不糊涂。'决意相之。"从中我们不难发现，吕端当时名声并不好，很多人认为他为人糊涂。不过宋太宗还是坚持的选择了他。
群臣这么认为，其实也不是没有道理。吕端这个人不重视功名利禄，这在很多人眼里格格不入。尤其是吕端做了宰相，竟然还要让权让位。当时与吕端有同样声望的还有一位青年才俊他就是后来名噪一时的寇准，吕端担心性子刚烈的寇准不平衡，所以主动让权。
同时吕端对金钱也看得很淡，很默然。正所谓三人成虎，久而久之，吕端这样众人皆醉我独醒的为官之道，在群臣眼里留下了"糊涂"的说法。
