從此，李靖加入了李淵和李世民的行列，實現了他滿足主需要的願望。漢高祖武德二年，李靖奉命討伐孝賢，率軍南下。蕭憲是南朝梁皇室的後裔。隋末亂時，40萬雇傭軍占領長江中遊。李靖的部隊被蕭憲擋住，無法前往德州。高祖非常生氣，命令周霞總督許韶將李靖斬首。但徐紹珍惜李靖的才華，請求赦免，李靖才免於壹死。駐紮在夔州的李兵敗，李靖率領800名步兵攻打冉的營地。然後，他設下埋伏，在壹個危險的堡壘，殺死冉沼澤，並抓獲超過5000人。李淵對此特別高興，對大臣們說:“建功不如立業。李靖確實立下了汗馬功勞。”又詔李靖曰:“既往不咎。我早就忘記過去了。”從那以後，李源更加關註李菁了。武德四年(621)正月，李靖經過深思熟慮，向高祖呈上十策，欲擒蕭憲，深得高祖賞識。於是，李任命為開州的總管，而李靖則任命為行軍總管和長史李；李靖負責軍隊的指揮。李靖緊急召集巴、蜀首領的子女，按數量任命，安排在各地。此舉表面上是提拔重用，實際上是人質，穩定了巴蜀局勢。九月，唐軍從開州分四路發兵南下。
當時河水暴漲，將軍們建議等水退了再行軍。李靖說:“兵貴神速。今天，我們的士兵已經開始集結，但我們還不知道。若來江崛起，則驟至其門，掩其備，壹舉擒蕭先。機不可失，時不再來！”李聽了李靖的意見，率軍乘二千多艘戰船，順流而下。10月，當我們進入夷陵時，孝賢部率領數萬士兵駐紮在於清江。李靖認為文是壹個有名的軍人，所以他不能快速作戰。他應該等自己失敗了再去努力奮鬥。李沒有聽李靖的建議，於是他命令李靖駐紮在營地，並親自帶領他的部隊戰鬥。結果是壹敗塗地。
小勝之後，文的軍隊乘機劫掠，陷入混亂。李靖立即指揮士兵進攻，壹舉擊敗文，並奪得300多艘戰船。近萬人死於這場戰役。打敗文後，李靖率領五千精兵包圍江陵，孝賢在恐懼中投降。將軍們建議沒收蕭先兵和戰死者的財產，獎勵他們。李靜不同意。他說:“壹個國王的老師應該宣揚忠誠和正義。為蕭鐵而死的人，死為他們的主子，是忠臣。至於那些叛變的人，他們不應該受到懲罰，因為許多小賢控制的地區還沒有加入。我們應該寬容地安慰人們。”
因此，秩序是嚴肅的，邱沒有犯任何罪行，江陵城內每個人都很穩定。江漢壹帶的郡縣聽說了，都紛紛倒戈。孝賢平定後，漢高祖賞賜其功德，封李靖為國侯，永安郡公，改荊州刺史。11月，李靖被任命為嶺南慰使，被授予代表朝廷任命地方官員的“制祀印”特權。李靖所到之處，都向各州呼籲，占96個州，60多萬戶。嶺南之地，全歸唐朝所有。高祖還命李靖查貴州(貴州)總經理，鎮守嶺南。武德六年(623年)八月，原隸屬於唐朝的江淮農民起義軍在江南重組反唐戰役。其首領福貢陀稱帝，率兵至海州、壽陽。
以李為元帥，李靖為副元帥，率領李世勛等7名主帥的軍隊，從西、南、北三面包圍江淮軍。武德七年三月，唐鈞赴，復公延部馮與陳在山、青林山駐軍。他們建了壹堵高墻，沒有打起來。當時雙方形成了對峙。李把召集起來，商量進攻戰局的策略。眾將以為馮有鎮守，依水陸之險，若強攻，壹時難勝。有人建議繞道丹陽(今南京)；丹陽戰敗後，馮等人不戰而降。李靜反對道。他想:“但願塞尚攻不下博，助公擴石(指南京)，保義可取之戰！”如果我們進攻丹陽，堅持不了十天，惠亮就會威脅我，讓我腹背受敵，那就危險了。”他還說:“馮本來不想打仗，但幫眾擴大了計劃，使之謹慎，堅守危險，拖延時間。他的計劃是讓我們的老師和士兵疲憊不堪。如果我今天攻打它的城市去摘它，我可以壹舉攻破它！"
李采納了李靖的建議，用薄弱的士卒攻擊馮。馮不知如何是好，只得引兵出城接應。當他遇到李靖時，他帶領了壹大群人。馮突然被打了個措手不及，遭遇了慘敗。於是李靖率領水陸大軍前進，匹配丹陽。福貢陀得知前方軍隊大敗，棄城而逃，在浙江武康鎮被俘。江淮軍被徹底鎮壓，唐朝基本統壹了全國。戰後，在丹陽設立東南道臺，任命李靖為兵部尚書。不久，廢除了平臺制，設立揚州都督。李靖成為揚州總督，並協助李治理江南。武德八年(625年)八月，突厥入侵太原。剛當了壹年多揚州都督的李靖奉命北上，投入了對東突的戰爭。李靖為行軍總管，率領壹萬江淮軍進駐太谷。所有的軍隊都被打敗了，但李靖贏得了戰鬥，並帶著整個師回家了。
次年四月，突厥再次入侵靈川，李靖領兵反擊。在青銅峽附近展開激戰，突厥戰敗。不久，李靖被任命為陵州大都，負責北方的防務。武德九年(626)，唐太宗李世民登基。不久，唐太宗任命李靖為刑部尚書，後來，又任命他為代理刺史。