尉遲迥，字薄居羅，代地人（差不多是現在的山西代縣轄地區）。先祖是北魏拓跋氏的支脈，號稱尉遲部，所以便以尉遲為姓。其父尉遲俟兜為人寬厚，性格豪放，有鑑物識人之才。因此得關隴集團第二代首領、西魏權臣宇文泰青睞，將姐姐昌樂大長公主嫁於尉遲俟兜。所以尉遲迥也是宇文泰的外甥。尉遲迥有一個親弟弟尉遲綱，比他小一歲。
尉遲迥自幼聰明，且相貌俊美。長大之後胸懷大志，不吝嗇財物，喜好結交英雄人物，之後擔任宇文泰的帳內都督。西魏元寶炬登基後，娶金明公主為妻（元寶炬之女），授駙馬都尉，封西都侯。
大統二年（536年），東魏趁西魏新帝登基不久，又逢關中大旱發動攻伐戰。於是東、西魏第一場、第二場大仗爆發（小關之戰、沙苑之戰）。尉遲迥隨軍出征，戰東魏、復弘農、克沙苑，均立下汗馬功勞。憑軍功升任尚書左僕射，兼任領軍將軍。當時以尉遲迥的聰明才幹，以及身世背景，因此兼任文武兩職，而且頗有好評。宇文泰對他很是信任，並加以重任。
547年，高歡病重，臥榻時，鄭重囑咐兒子高澄“在自己死後，侯景必然不受控制”。因此高澄對侯景起了殺心。同年，侯景南逃南梁。當時誰也沒想到，這一逃，竟然將剛恢復生機不久的南梁推向了懸崖的邊緣。
侯景投梁後，高澄以此為藉口，向南梁發動攻擊。雖然說當時南梁在蕭衍的治理下，逐漸好轉起來，但本身的實力還是和北朝有著不小的差距。見東魏來襲擊，蕭衍便想交出侯景，以求和平。
此事為侯景所悉後，果斷髮動叛亂，史稱侯景之亂，蕭衍也因此命喪黃泉，時549年。
國君一死，南梁大亂。
蕭衍的第七子荊州刺史湘東王蕭繹號召各地的藩王聲討侯景。身在蜀地，蕭衍第八子蕭紀也想從蜀地發兵，蕭繹對此深為憂慮，急忙制止蕭紀發兵。
552年，蕭紀稱帝。
同年，侯景死後，蕭繹即位於江陵，即梁元帝。8月，蕭紀出川東伐江陵。
蕭繹畏懼蕭紀，不得不向西魏求救，並希望西魏能攻伐西蜀。
宇文泰見蕭繹求救，認為伐蜀的時機來了，而且奪取蜀地後，還能有效地制約南梁。於是宇文泰便與朝臣們議論這件事，但當時朝廷之上，眾議紛紛，意見不一，並且多持不同意見。
只有尉遲迥認為，蕭紀既然出動全部精銳東下，蜀地必然空虛。只要西魏大軍至，那麼必然唾手可得。
宇文泰很贊同尉遲迥的觀點，並就伐蜀之事，詢問他有何計策。須知蜀地自古以來極易產生軍閥，主要原因就是其地理位置易守難攻。
尉遲迥分析道：“蜀地與中原隔絕百餘年，因仗恃其山川險要，所以一定沒有預料到我軍前去。我們應當用精銳之師，趁夜突襲。路好走的地方加倍趕路，路不好走的地方緩兵慢行，這樣就能出其不意，直搗要害。”
宇文泰聞後大喜，當即命令尉遲迥督率元珍、乙弗亞、俟呂陵始、叱奴興、綦連雄、宇文升等，統兵一萬二千人，前往伐蜀。
553年春，尉遲迥從散關出發，經由固道、白馬，指向晉壽，開闢平林舊道。當時鎮守潼州的楊乾運見南梁大亂，有心歸附西魏，早就密上降表給宇文泰。尉遲迥大軍到達劍閣後，楊乾運的女婿，安州刺史樂廣，舉州投降。之後，楊乾運也向西魏投降。
六月，尉遲迥抵達潼州，大宴將士，繼續率軍西行，渡涪江，至青溪，駐上南原，制定規約，修整器械，依軍功犒賞軍士。
此時正值蜀川盛夏多雨之際，軍中將士疲憊生病者十有二三，尉遲迥親自慰問這些病員，並送上湯藥。
益州刺史蕭綽率萬人前來阻擋尉遲迥，據城而守，不敢應戰，尉遲迥將其圍住。
之前蕭紀聽說西魏來襲，便派遣譙淹、趙拔扈、史欣景回兵救援。尉遲迥分別派元珍、乙弗亞等人率輕裝騎兵將其擊敗，譙淹、史欣景投降，趙拔扈逃走。
援軍不至，蕭撝無奈出城迎擊。雙方先後交戰數十次，皆為尉遲迥所敗。被轉五十多天後，蕭撝率眾舉城投降，尉遲迥依照禮節接待他們，並將他們官復原職，只是沒收了他們的財產，用來犒賞西魏軍士。
伐蜀勝利後，朝廷下詔命尉遲迥為大都督、益潼等十二州諸軍事、益州刺史。
554年，增加督管六州，加上原來的共十八州諸軍事。因平蜀的功勞，朝廷加封尉遲迥的一個兒子為安國郡公。
至此自劍閣以南，尉遲迥可以根據朝廷制度封位和降免官吏。尉遲迥賞罰分明，恩威並舉，安撫川民，經營那些暫時沒有歸附的地方，使得漢人和夷族的百姓都真心歸順於他。
尉遲迥還十分孝順，侍奉老母從不敢懈怠。雖然行軍打仗時常在外，但只有要時令美食，一定要先送給母親食用，方才敢自己吃。
那時尉遲迥的母親（長公主）年高多病，尉遲迥回京後，每次退朝都要去探問其起居，每每都神色間都充滿了焦慮。其母為了使他安心，總是和顏悅色地進食。宇文泰得知此事後，就調他入京，以便他侍奉母親。
尉遲迥離開蜀地後，當地人為了紀念尉遲迥，為其立碑歌頌功德。
557年，宇文護逼拓跋廓禪位給宇文覺，建立了北周。尉遲迥被升任柱國大將軍。又因之前的平蜀之功，被封為寧蜀公。又遷任為大司馬，不久，以現有的官職鎮守隴右。
559年，宇文毓繼位後，尉遲迥進封為蜀國公，出任秦州總管、秦渭等十四州諸軍事、隴右大都督。
宇文邕繼位的第二年，也就是562年，宇文護東征北齊，命尉遲迥率軍十萬圍攻洛陽。宇文憲、達奚武等人駐紮在邙山。當時連日天陰大霧，北齊軍偷渡黃河向北周軍攻來，北周軍一擊即潰。尉遲迥率數十騎奮勇抵抗。危急之時，幸得宇文憲、達奚武趕至。兩軍大戰至夜幕降臨，方才收兵。戰後，尉遲迥升至太保、太傅。
578年，宇文贇繼位後，任命尉遲迥為大右弼，還轉任大前疑，出任相州總管。
579年，宇文贇禪讓給年僅七歲的宇文闡。
580年，宇文贇駕崩。楊堅黨羽偽造遺詔，請楊堅輔政。當時尉遲迥的名望地位一直很高，楊堅對此頗為忌憚，便以會葬的名義徵調尉遲迥回京。同時命韋孝寬代替尉遲迥擔任總管。
而尉遲迥認為楊堅有謀朝篡位之疑，拒不接受替代。楊堅命侯正破六韓裒去尉遲迥宣讀聖旨，再次讓尉遲迥回京，並且密書給總管府長史晉昶等人，讓他們早做安排，用武力接管。
此事為尉遲迥所悉，當場就殺了侯正破六韓裒和晉昶，立刻召集文武官員等登上州城的北城樓，對眾人說道：“楊堅這個平庸之才，憑藉皇后父親的權勢，挾幼主而令天下，作威作福，賞罰不分。其不臣之舉已昭然若揭。我身居將相之職，又是國君的舅舅，自當與他休慼與共，同為一體。先帝讓我牧守於此，本來就寄託著安危大計。如今我打算與各位將士，集合義勇之人，匡復國家。進可以享榮名，退可以終臣節。各位以為何如？”在場眾人皆同意，於是尉遲迥自稱大總督，根據制度設定官司，正式發動叛亂。
當時宇文泰第七子宇文招已入朝，留下了一個兒子在自己的封國，尉遲迥便奉此子以號令天下。時任青州總管，尉遲迥侄子尉遲勤，也聽從尉遲迥起兵叛亂。
尉遲迥所管轄的相、衛、黎、毛、洺、貝、趙、冀、瀛、滄，勤所統青、膠、光、莒諸州，皆都聽命於他，反叛軍人數達數十萬之多。
除尉遲迥所轄之地外，滎州刺史邵公宇文胄、申州刺史李惠、東楚州刺史費也利進、東潼州刺史曹孝達，徐州總管司錄席毗與前東平郡守畢義緒（據兗州及徐州的蘭陵郡），也都各自據州響應尉遲迥。
永橋鎮將紇豆陵惠向尉遲迥獻城投降。
尉遲迥不僅有國內官員的支援，還向北交結高寶寧，聯絡突厥。向南聯絡陳國，答應割讓長江、淮河一帶的土地，以便獲得這些人的支援。
很快尉遲迥這邊反叛運動有了相當大的成績。先是派遣大將軍石孫心進攻建州，迫使刺史宇文弁獻城投降。又派韓長業攻陷潞州，生擒刺史趙威，任命城人郭子勝為刺史（這一段《李穆篇》中有涉及）。
上儀同赫連士猷攻晉州，即據小鄉城。
紇豆陵惠攻破定州的鉅鹿郡，圍攻恆州。
宇文威攻汴州。
莒州刺史烏丸尼、尉遲俊率膠、光、青、齊、莒、兗等地的軍隊圍攻忻州。
大將軍檀讓攻取曹亳二州，駐紮在梁郡。
大將軍、東南道行臺席毗率眾號稱八萬，駐守藩城，攻佔昌慮、下邑、豐縣。
申州刺史李惠自申州進攻永州，將州城焚燒後撤退。
滎州刺史宇文胄駐紮在洛口，開府樑子康進攻懷州。
面對尉遲迥的叛亂，於六月，楊堅命令韋孝寬前去討伐。陰羅雲負責監察各路軍隊，梁土彥、元諧、宇文忻、宇文述、崔弘度、楊素、李詢、於仲文等人為行軍總管。北周官軍一路收復不少失地，一直到了河陽。
就在這時，尉遲迥的兒子尉遲惇統軍十萬進入武德（今河南武陟東南），在沁水東岸佈陣二十餘里。與韋孝寬隔水相望，相互對峙。見韋孝寬等眾將領不敢前進，高熲主動請纓。楊堅順勢，趕緊派高熲前去督戰。
高熲在沁水上架橋，尉遲惇在上流縱火筏燒橋，高熲則命人填“土狗”以阻火筏。一計不成，再生一計，尉遲惇下令部隊稍稍後退，想趁高熲渡江過半時發動襲擊。（從這一點來看，就說明尉遲惇沒有好好地吸取前秦苻堅的教訓了。）
高熲趁尉遲惇退兵之際，知道機會稍縱即逝，急忙命大軍迅速前進，渡過沁水，並下令焚燒浮橋，與尉遲惇背水一戰。結果可想而知尉遲惇大敗。韋孝寬乘勝追擊，進抵鄴城城下。
尉遲迥與尉遲惇、尉遲祐又出動全部兵力，共十三萬人，在城南列陣。尉遲迥另外統領一支頭戴綠巾，身穿錦襖的軍隊，號稱黃龍兵。侄子尉遲勤也從青州前來赴援，並先派三千名騎兵率先趕到。
尉遲迥久在軍中，年歲雖老，但仍穿著厚重的甲冑上陣。其部下計程車兵，都是關中人，因此都為他奮力作戰。韋孝寬的失利退卻。
而就在這時，鄴城的牆頭突然變得人山人海，原來城中的百姓都爬上城牆觀陣打仗。高熲見狀，與宇文忻、李詢兩人謀劃，向城牆上的百姓射箭，硬生生地製造了一場混亂。宇文忻趁機大呼：“賊兵敗卻！”官軍聽聞，士氣復振，趁亂進擊。尉遲迥就這樣不明不白地戰敗，被迫逃入城中，並退到北城固守，韋孝寬縱兵包圍。
李詢、賀婁子幹首先登上城牆。尉遲迥登上城樓，用箭射殺數名敵人，最終寡不敵眾，引頸自刎。
尉遲勤、尉遲惇等向東逃跑，但都被抓獲，其餘部眾在一個多月以後都被處死。楊堅因尉遲勤當初有誠意歸附，特意將他釋放。
武德年間，尉遲迥的從孫、庫部員外郎尉遲耆福上表，請求改葬。經商議後，朝廷認為尉遲迥忠於周室，便答應了尉遲耆福的請求。
