大敌压境，刘邦力不能支，退兵于砀(令河南夏邑东南)，约在此时，灌婴弃商从戎，投效刘邦，被任命为中涓（刘邦身边亲兵）。

灌婴在跟随刘邦之后，因作战勇猛，军功显着，很快成为刘邦帐下的重要将领。

灌婴有四次“疾斗、疾力、疾战”的记载，分别是：灌婴与秦军在成武和扛里的作战中，疾斗；在刘邦军攻打秦军亳南、开封、曲遇时，疾力；

在刘邦军向西挺进咸阳时，在蓝田与秦军作战中，疾力；刘邦军与项羽军在定陶南遭遇时，疾战。这四场战斗之后，灌婴的爵位分别变成了七大夫、执帛（号宣陵君）、执珪（号昌文君）和列侯（号昌文侯）。

“楚骑来众，汉王乃择军中可为骑将者；皆推故秦骑士重泉人李必、骆甲习骑兵，今为校尉，可为骑将。汉王欲拜之，必、甲曰：“臣故秦民，恐军不信臣，臣愿得大王左右善骑者傅之。”“婴虽少，然数力战，乃拜婴为中大夫，令李必、骆甲为左右校尉。”

于是，年轻的灌婴因骁勇善战，屡立奇功，被刘邦任命为中大夫，在李必和骆甲的辅助下，率汉军骑兵在荥阳东大破楚军。

紧接着，灌婴奉命率军绕道楚军背后，负责切断楚军粮道。

于是，灌婴在鲁地大败项冠的军队，在燕地西部打败柘公王武，在白马打败王武手下桓婴，又南下渡过黄河，将刘邦送到洛阳，并前往邯郸迎接韩信的部队。

不久后，灌婴以御史大夫的身份受韩信节制，在齐地大战中取得辉煌战绩：在历下打败齐军，部下俘虏齐国车骑将军和46名将官；

攻下临淄，活捉齐国守相田光；

追击齐国相国田横，打败齐国骑兵，活捉4名骑将，斩杀1名骑将；

攻克赢、博二城，斩杀齐国守将田吸；随韩信在高密打败龙且的部队，部下斩杀龙且，而灌婴本人亲自活捉了副将周兰。

韩信被刘邦封为齐王后，灌婴受命攻打楚军，一路攻城略地，攻下楚国都城彭城及大片领土，最终在颐乡与刘邦相会。

在垓下决战中，灌婴在陈地击败项羽的军队，又单独受命追击突围的项羽，在乌江畔围住项羽，5名部将各夺得项羽的部分尸身；之后，渡江攻下吴郡、豫章、会稽三地，又返回淮北攻下52个县。