魏晉南北朝，又稱為三國兩晉南北朝，是我國曆史上政權更迭最頻繁的時期，主要分為三國（魏、蜀、吳）、西晉、東晉和南北朝時期，這一時期戰爭不斷，分裂對峙，同時也是民族大融合時期。這一時期處於漢、（隋）唐之間，對於監獄的發展也產生了深遠影響，使得魏晉南北朝時期的監獄具有自身的一些特點。
三國時期的監獄設定及管理基本沿襲漢制。到了西晉時期，國家重新歸於一統，在京師設有廷尉獄、洛陽獄、黃沙獄（晉武帝時設定，為詔獄，主要關押欽犯，負責人名為黃沙御史）、太史家令獄等；南朝則設有廷尉獄、尚方獄；北魏設有廷尉、籍坊二獄。這一時期地方州縣亦廣設地方監獄。
魏晉南北朝時期，皇權受到極大挑戰，特別是東晉時期，由於士族力量強大，皇權極度降低。由於皇位爭奪頻繁，如何處置其中的失敗者，是一個非常現實的問題。大多數被直接殺害，還有的被直接關進監獄。這裡面，最出名的就是金墉城了。金墉城是三國魏明帝時築，為當時洛陽城東北(今河南省孟津縣平樂鎮翟泉、金村的金墉城)西北角上一小城。魏晉時被廢的帝、後，都安置於此。司馬炎逼迫魏元帝曹奐退位，自己接受“禪讓”登基為帝，就將曹奐幽禁於金墉城之中。
此外，由於皇權衰弱，軍閥割據，皇帝對國家的控制力減弱，因此這一時期出現各種未經朝廷允許的“私獄”，也就不足為怪了。北朝就曾設定有相國府獄，類似於丞相府的監獄，專門用於關押異己者。魏晉南北朝時期監獄制度在兩漢基礎上有所發展，並對隋唐時期的獄制產生了一定影響，起到了承上啟下的作用。