宋朝建立，沈義倫在以“佐命功”升遷的趙匡胤霸府幕僚中，名列第四。自歸德軍（宋州，今商丘南）觀察推官升爲戶部郎中。沈義倫較關心民間疾苦，次年出使吳越時，途中見到淮南揚州、泗州（今盱眙西北）發生饑荒，饑民餓死不少，在他歸朝後的力請下，宋太祖下诏淮南地方進行赈濟。建隆三年十一月，升給事中。乾德元年（963年）改任陝西轉運使。乾德二年十一月，宋軍進攻後蜀，沈義倫改任随軍轉運使。次年正月，宋滅後蜀，宋軍将帥恃功貪暴，隻有都監曹彬、轉運使沈義倫清廉，曹彬歸朝後，“唯薦義倫可任”。乾德五年八月，沈義倫升爲戶部侍郎、樞密副使。開寶二年（969年）二月，宋太祖親征北漢，以皇弟趙光義爲東京留守，沈義倫爲大内都部署、判留司三司事，負責皇宮安全和處理朝廷日常财政事務。沈義倫言行謹小慎微，當新貴們紛紛營造宏麗的新居，他的住房雖卑陋但不進行修繕。開寶六年五月，宋太祖派官督工按設計圖爲他營造新居時，他還是要求建造較狹小的房屋。同年八月，連任十年宰相的趙普，因跋扈擅權被罷相出爲節度使。九月，樞密副使沈義倫與參知政事薛居正同日升爲宰相，沈義倫是趙匡胤霸府幕僚中繼趙普之後第二個升任宰相。
開寶九年（976年）十月，趙光義（太宗）奪位後，沈義倫避宋太宗名諱，改名沈倫。仍任次相。太平興國四年二月，宋太宗親征北漢及随後攻遼，百官從征，次相沈倫任東京留守兼判開封府事，全權負責留守事務。太平興國六年六月，首相薛居正死，沈倫升爲首相。同年九月，趙普因編造“金匮之盟”被宋太宗任爲首相，沈倫再次充任次相，一場迫害皇弟秦王趙廷美的活動在趙普的主持下緊張進行。次年初，沈倫開始生病，也許是他覺察到一場政治風暴即将來臨，以病告假靜觀發展，“清介醇謹”的沈倫既無力阻止，也不願參與迫害秦王趙廷美、次相盧多遜，更不想被卷入其中而受牽連，在趙廷美勾結盧多遜謀反罪名将要成立之前，沈倫“已上表求緻仕”。但同年四月，沈倫仍以不能覺察盧多遜罪行而被罷相。沈倫再次上表請求緻仕，同年七月，以左仆射緻任。雍熙四年（987年）病死，終年 79 歲，谥恭惠。