虽然明代是宦官专权极为严重的一个朝代，但《明史·宦官传》的纂修者认为明代宦官中也有“贤者”，并列举三人，其中之一，便是怀恩。
关于怀恩的姓氏、籍贯，史书中有两种说法。《明史》中说他本姓戴，山东高密人，兵部侍郎戴纶的族弟。他的父亲叫戴希文，任太仆寺正卿。宣德年间，戴纶以心怀不满罪被谪死抄家，戴希文等也因此而遭株连被杀，因怀恩年幼，被列入籍没为奴的名单，因而被净身，送入宫内，当了小内侍。怀恩这个名字是入宫后给起的，之所以叫怀恩就是要他终生念念不忘朝廷的大恩大德。而在《献征录》里则说他本姓马，是苏州府人。宣德时入宫，赐姓怀，成为小内侍。至于真正姓什么，我们攒钱不论。
怀恩幼年入宫，他聪明好学，在内书堂用心读书习字，学习文化，办事勤快，不论干什么，都非常谨慎小心，经过了二十多年的磨练，逐渐取得了朝廷的信赖。明宪宗即位后，怀恩被任命为司礼监掌印太监。司礼监是宦官衙门中最有实权的一个衙门，在这一时期，宦官汪直控制西厂，梁芳、韦兴等无耻之徒，竭力巴结汪直。但是，他们的经历、年资，都比不上怀恩。再加上怀恩一身正气，性情耿直，具有一定的文化素养，熟悉朝中典章制度，所以在内侍中颇有一些威望，也为朝中大臣所敬重。
明宪宗朱见深即位时，明朝可谓是多事之秋。层出不穷的内忧外患，摆在这个新天子面前。而这位新天子既无励精图治的谋略又无决心。正是在这种形势下，宪宗身边的太监往往成为出头露面的人物，参与军国政事的议决。
成化三年（1467年），宪宗命户部尚书马昂、副都御史林聪与给事中潘礼、陈越负责清理京营文案。但因京营的将官与朝中文武大臣多有联系，要对京营弊端进行清查，不是一件容易的事。礼部尚书陈文为了使这次清理取得应有的效果，他提出必须派内臣参与清理，方能保证清查的顺利进行。他还推荐让太监怀恩参与。宪宗采纳了这一建议，命怀恩与马昂等前去清理。在清查过程中，他秉公论断，不屈服于权贵与邪恶势力，从而使清查取得了成效。
