开始逃亡之后，臧霸的生活变得穷困潦倒。 可天无绝人之路，臧霸在逃亡后不久便受到陶谦的赏识。于是他投于陶谦麾下，担任骑都尉，负责抵抗黄巾军。在陶谦死后，不得已之下他落草为寇，自成一股势力。之后又因占领莒城引来吕布攻击。之后二人和解，臧霸也投于吕布麾下。后来曹操讨伐吕布，臧霸帮助吕布抵抗曹操。后来吕布战败，由于曹操很欣赏他，让他抛出了橄榄枝。于是臧霸受降于曹操，被曹操封为琅琊相。
心归曹营
臧霸受降本是无奈之举。即使投于曹操麾下，也难免心中有所不服，只是并未做出什么过分的举动。但是他手下的小弟却没有他那份心思，心有不服便表现出来。几次三番做出有损曹操利益的事情。只是当时正逢攻打袁绍之际，曹操需要臧霸一行人的帮助，因此便忍了下来。可这个小弟却越发变本加厉，于是在攻破袁绍之后，曹操便下令对此人处以极刑。而在这次事件中，臧霸也充分认识到了曹操的狠辣。即使对曹操有诸多不满，也埋在心中，从未做过有损曹魏利益之事。
