鱼遵（？～357年），
冯翊郡（今
陕西省大荔县）人，出身冯翊鱼氏。
前秦开国功臣、历任右将军、右长史、太子太师、太尉、太师、录尚书事，封爵广宁县公。
后赵末年，鱼遵追随略阳苻氏，三秦王苻洪册封鱼遵为右将军、右长史。
永和六年（350年），
苻健率军入关，册封
苻菁、鱼遵为北路前锋大将，鱼遵屡立战功，三辅郡县、坞堡皆向苻氏的军队投降。
皇始元年（351年），苻健即天王位，建立前秦王朝，定都长安，大赦天下，加封鱼遵为太子（
苻苌）太师，成为皇太子苻苌的老师。
皇始四年（354年），东晋名将桓温联合前凉讨伐前秦，前秦君臣齐心合力，终将东晋和前凉联军的攻势彻底瓦解。后来前秦朝廷论赏击败
桓温的功勋，加封
雷弱儿为丞相，
毛贵为太傅，鱼遵为太尉，淮南王
苻生为中军大将军，平昌王
苻菁为司空，但皇太子苻苌遭到东晋暗箭击伤。八月，苻苌斩杀乔秉，攻克雍城，关中悉数平定。十月，苻苌因旧伤复发薨逝，谥号献哀太子。
皇始五年（355年），前秦景明帝
苻健患病，卧床不起。苻健册封大司马、武都王
苻安为都督中外诸军事。苻健传唤太师鱼遵、丞相
雷弱儿、太傅
毛贵、司空
王堕、尚书令
梁楞、左仆射
梁安、右仆射
段纯、吏部尚书
辛牢受遗诏辅政。临终之前，苻健对
苻生说：“六夷酋帅和大臣中的执权者，如果有不忠心你的，你应该将他们逐渐除掉。”
寿光三年（357年），前秦皇帝苻生梦见大鱼吃蒲草，另外长安城里也有谣谚说：“东海大鱼化为龙，男皆为王女为公。”苻生于是就杀掉了太师、录尚书事、广宁公鱼遵以及他的七个儿子、十个孙子。金紫光禄大夫
牛夷害怕祸及自己，请求到荆州任职，苻生不答应，任命他为中军将军，召见时戏弄说：“老牛生性迟缓稳重，善驾车辕，虽然没长骏马的蹄子，但走起路来能负重百石。”牛夷说：“虽然驾着大车，但没有走过险峻的道路。愿意试拉重车，便可知道我的功用了。”
苻生笑着说：“多么痛快啊！你嫌所负载的轻吗？朕将用鱼遵的爵位安置你。”牛夷十分害怕，回去后就自杀了。后来宣昭帝
苻坚即位，众人得以恢复官爵。
阎负、
梁殊：“其耆年硕德，德侔尚父者，则太师、录尚书事、广宁公鱼遵。”