故事發生在1947年，銀行家安迪（Andy）被指控槍殺了妻子及其情人，安迪被判無期徒刑，這意味著他將在肖申克監獄中渡過餘生。
瑞德（Red）1927年因謀殺罪被判無期徒刑，數次假釋都未獲成功。他成為了肖申克監獄中的「權威人物」，只要你付得起錢，他幾乎有辦法搞到任何你想要的東西：香菸、糖果、酒，甚至是大麻。每當有新囚犯來的時候，大家就賭誰會在第一個夜晚哭泣。瑞德認為弱不禁風、書生氣十足的安迪一定會哭，結果安迪的沉默使他輸掉了兩包煙，但同時也使瑞德對他另眼相看。
很長時間以來，安迪不和任何人接觸，在大家抱怨的同時，他在院子裡很悠閒地散步，就像在公園裡一樣。一個月後，安迪請瑞德幫他搞的第一件東西是一把小的鶴嘴鋤，他的解釋是他想雕刻一些小東西以消磨時光，並說他自己想辦法逃過獄方的例行檢查。不久，瑞德就玩上了安迪刻的西洋棋。之後，安迪又搞了一幅影星麗塔·海華絲的巨幅海報貼在了牢房的牆上。
一次，安迪和另幾個犯人外出勞動，他無意間聽到監獄官在講有關上稅的事。安迪說他有辦法可以使監獄官合法地免去這一大筆稅金，做為交換，他為十幾個犯人朋友每人爭得了兩瓶Tiger啤酒。兩天後，他們坐在夕陽下的屋頂，喝著啤酒，瑞德說多年來，他第一次感受到了自由的感覺。
由於安迪精通財務制度方面的知識，很快使他擺脫了獄中繁重的體力勞動和其它變態囚犯的騷擾。不久，聲名遠揚的安迪開始為越來越多的獄警處理稅務問題，甚至孩子的升學問題也來向他請教。同時安迪也逐步成為肖恩克監獄長沃登洗黑錢的重要工具。由於安迪不停地寫信給州長，終於為監獄申請到了一小筆錢用於監獄圖書館的建設。監獄生活非常平淡，總要自己找一些事情來做。安迪聽說瑞德原來很喜歡吹口琴，就買了一把送給他。夜深人靜之後，可以聽到悠揚而輕微的口琴聲迴蕩在監獄裡。
一個年輕犯人的到來打破了安迪平靜的獄中生活：這個犯人以前在另一所監獄服刑時聽到過安迪的案子，他知道誰是真兇。但當安迪向監獄長提出要求重新審理此案時，卻遭到了拒絕，並受到了單獨禁閉兩個月的嚴重懲罰。而為了防止安迪獲釋，監獄長設計害死了知情人。
面對殘酷的現實，安迪變得很消沉。有一天，他對瑞德說：「如果有一天，你可以獲得假釋，一定要到某個地方替我完成一個心願。那是我第一次和妻子約會的地方，把那裡一棵大橡樹下的一個盒子挖出來。到時你就知道是什麼了。」當天夜裡，風雨交加，雷聲大作，已得到靈魂救贖的安迪越獄成功。
原來二十年來，安迪每天都在用那把小鶴嘴鋤挖洞，然後用海報將洞口遮住。安迪出獄後，領走了部分監獄長存的黑錢，並告發了監獄長貪汙受賄的真相。監獄長在自己存小帳本的保險柜裡見到的是安迪留下的一本聖經，第一頁寫到「得救之道，就在其中」，另外聖經裡邊還有個挖空的部分，用來藏挖洞的鶴嘴鋤。
經過40年的監獄生涯，瑞德終於獲得假釋，他在與安迪約定的橡樹下找到了一個鐵盒，裡面有一些現金和一封安迪的手寫信，兩個老朋友終於在蔚藍色的太平洋海濱重逢了。