灌婴本来是睢阳（今天的河南商丘市睢阳区）一个贩卖丝制品的小商人。刘邦在沛县起兵反秦，自立为沛公的时候，灌婴便跟随在刘邦身边，后来，刘邦战败后，灌婴随同刘邦一起加入了项家军。
定陶大战中章邯击败了楚军，并且斩杀了项梁的时候。刘邦率军撤退到砀县（今天的河南永城市芒山镇）附近，灌婴以内侍中涓官的身份跟随刘邦左右，后来在成武（今天的山东成武县成武镇）和杠里的两次战斗中，灌婴率军先后击败了东郡郡尉的军队和驻守杠里的秦军，因为作战勇猛，被刘邦封为七大夫。
之后在亳县南面及开封、曲遇一带与秦军战斗中，灌婴的表现依旧突出，所以被刘邦封为宣陵君。此后灌婴率军在阳武以西至洛阳一带与秦军战斗，并且在尸乡以北地区打败秦军，继而北进封锁了黄河渡口，然后带兵南下，在南阳以东击败了南阳郡郡守吕齮的军队，在平定了南阳郡。灌婴随同刘邦继续西进攻入武关，在蓝田与秦军战斗中，灌婴勇冠三军，一路追击秦军到了灞上，被刘邦封为昌文君。
刘邦被封为汉王之后，任命灌婴为郎中。在随同刘邦抵达汉中后，灌婴又被任命为中谒者。后来在刘邦还定三秦的战役中，灌婴率部攻下了塞王塞王司马欣的都城栎阳，迫降了塞王司马欣。然后又率部击败章邯。并将其包围在废丘，只可惜这一战并没有打下废丘城。
此时雍王章邯被困废丘，塞王司马欣归降，三秦只剩下殷王董翳了，于是，刘邦率军向东进军临晋关，殷王董翳见不是汉军对手，于是，也选择了归降刘邦，收复董翳的部队之后，刘邦在洛阳诸侯盟会，痛斥项羽杀死义帝熊心这件事，并以此传檄天下，率领诸侯联军向项羽的老巢彭城发起了进攻。
灌婴所部在定陶以南地区与项羽的手下龙且、魏国丞相项它的军队相遇了，经过激烈的搏杀，最终击败了楚军。此战后因功被封为昌文侯，刘邦把杜县的平乡封给他作为食邑。刘邦打下彭城后膨胀了，日日饮酒作乐，丝毫没有防范的意思。
项羽率领三万楚军队，秘密回师彭城，很快便将刘邦杀得全军覆没。灌婴饱和刘邦向西逃往雍丘驻守。此时王武、魏公申徒见刘邦大势已去，便起兵反叛，刘邦此时得到萧何从关中为他募集的老弱军，恢复了一些实力，便率领灌婴前去平叛。
叛军并不是灌婴对手，很快便被击败了。刘邦顺势攻下了外黄，此时韩信收拢残兵也赶来与刘邦会和，汉军实力大增，便进军荥阳驻扎。此时项羽的军队已经追了过来，其中骑兵居多，所以刘邦便在军中挑选能够担任骑兵将领的人。
此时军中都推荐原来的在秦军中担任过骑兵的李必、骆甲，认为他们两人对骑兵作战很在行，此时又都是汉军的校尉，所以应该是担任骑兵将领的最佳人选。刘邦准备任命他们，但他们二人却说："我们原来是秦朝的子民，恐怕军中的士兵觉得我们不可靠，所以请您委派一名常在您身边而又善于骑射的人做我们的首领。"
这个时候灌婴年龄并不大，但在多次战役中屡立奇功，并且以勇猛著称，所以便被刘邦委任为中大夫，让李必、骆甲担任左右校尉，率领郎中骑兵在荥阳以东和楚国骑兵战斗，在这一战中灌婴又一次展现出了他的神勇，最终将楚军骑兵击败。
此战后，刘邦便让灌婴独自领兵进入楚国境内搞破坏。灌婴没有辜负刘邦的信任，在深入楚境不久便切断了楚军从阳武到襄邑的粮草供应线。并在鲁下一带，击败了项羽的将领项冠率领的军队，并在此战中斩杀楚军的右司马。
此后在楚国境内灌婴所部，在多次战斗中击败楚军大将柘公王武后。带领骑兵从南面渡过黄河，护送刘邦抵达洛阳，到达洛阳后刘邦又派遣灌婴到邯郸去迎接相国韩信所部。返回途中在敖仓时，灌婴被刘邦升为御史大夫。
此后，灌婴的骑兵部队，隶属于赵国丞相韩信，在功打齐国历下的战争中，灌婴所部抓获了车骑将军华毋伤及将吏四十六人。使齐军被迫投降。后来攻打齐国都城临淄的时候，灌婴所部又生擒齐国守相田光。
韩信取得潍水之战胜利后，灌婴与自立为王的新齐王田横展开了激战，最终在嬴、博打败齐国骑兵，斩杀齐国骑将一人，生擒骑将四人。在攻克嬴、博后。灌婴有率军千乘把齐国将军田吸打得一败涂地，并最终击杀了他。