梁克家，宇叔子，泉州东街人，宋建炎元年(1127年)生，自幼聪敏过人，记忆力极强，看书过目成诵，又勤奋自励，胸怀大志。青年时期，曾到潮州揭阳县(今属广东省汕头市)当家庭教师。                  

绍兴二十九年(1159年)，梁克家回福建参加乡试，名列第一。翌年，廷试第一，授平江府（治所在今江苏省吴县）签判。绍兴三十一年，金国主完颜亮驱兵至长江北岸杨林渡(今安徽省和县东)，又攻陷扬州，直逼瓜州(在江苏省江都县南)渡，朝野震动。此时金兵发生内变，金主完颜亮被杀，金国都督府派人往镇江与宋廷议和，淮南金兵全部北撤。许多朝臣大多以为可以乘机进取。梁克家致书兵部侍郎陈俊卿，分析当时的形势说:敌人虽然退去，我兵未曾充实，士气未振，不估计自己的实力而妄自行动，将反受其侮。陈俊卿把梁克家的话告知求相陈康伯，陈康伯很赞赏梁克家的远虑，召为秘书省正字。不久，调任著作佐郎。                             

高宗禅位，孝宗继位，很想振作一番，改变高宗那种妥协苟安的局面。然而社会未宁，灾异屡见，朝野惶惶不安。梁克家及时上疏，请广开言路，下诏求直言。孝宗接纳，下令侍从、台谏、卿监、郎官、馆职诸臣，上疏批评朝廷缺失，言路初开。梁克家上疏论大政六事：一正心术，二立纪纲，三救风俗，四谨威炳，五定庙算，六结人心。其中论及朝廷决策时说：如今边议要从三个方面着想，就是选将领，练士兵，足财赋。议论坦率，切中时事，被孝宗采纳并受到嘉奖。从此梁克家经历次升迁至中书舍人。

乾道初，梁克家奉命出使金国，金人晓得他是状元，对他特别敬重，安置在国宾馆。宴会间投射，梁克家接连数十射全中的，金人上上下下都很钦佩。梁克家不辱使命而返。不久，金国派使者到宋廷贺庆会节，梁克家主张维护朝廷的尊严，令金国使者人朝由南门，百官人朝由北门，随从人员不得到殿门外，以整肃朝仪。这一建议为孝宗所采纳，作为定例。后来梁克家任给事中，负责驳正政令违失的职务。任职三年，遇到不可行的事，必要力争，直言不隐。当言路初开，为了防止堵塞言路，梁克家上奏说:"陛下欲用实才，不喜空言。空言固然无益，然而如果以空言就惩处，那么谏诤之路就会堵塞，希望用玩导的办法为好。”孝宗欣然接受，并命他分析当前风俗之弊。梁克家列举四条:一是瞒上欺下说假话，二是苟且偷安无进取心，三是唯唯诺诺毫无主见，四是争权夺利趋炎附势。他指出这种腐败风俗将导致世风日下，国力不振。孝宗对他这种直言不韪、切中时弊的意见大加赞赏，亲笔奖谕。知阁门事张说打算由阁门选人枢密院。右正言王希吕和台臣上书弹劾，认为不可。孝宗发怒，下令把王希吕谪配边远地方。左相虞允文，拒不执行，孝宗更加发怒。梁克家从容劝告说:王希吕弹劾张说，这是台谏的职责，左相救护王希吕，正是为国体着想。孝宗听了，怒气才稍为平息，减轻对希吕的惩处。不久，张说补兼枢密都承旨，借势挟私怨，对那些不依附自巳的朝臣存心中伤陷害。梁克家极力保护这些朝臣，以免受害。

乾道五年(1169年)二月，授梁克家端明殿学士、签书枢密院事，六年，参知政事，七年，暂理知枢密院事。皇太子初立，请选置官属，增加讲读人数，梁克家举荐王十朋、陈良翰为詹事，朝廷内外都认为得当。梁克家主张对外先与金国修好，但对金国的启衅应充分防备，不能示弱;请筑楚州(治所在今江苏省淮安市)城，外环舟师，边境赖以安宁。虞允文任宰相，主张恢复中原，朝臣迎合的人很多。梁克家不赞成贸然行事，因此往往意见不合，施政困难，梁克家力求离去。孝宗问梁克家："真的不能对金人用兵吗?”梁克家回答说:"用兵先要财用充裕，如今用度尚且不足，靠什么成事!"孝宗改变神色说:"待朕仔细考虑。"第二天早朝，孝宗告诉梁克家说:"肤整个晚上思考你的意见，感觉至为重要，你不要离任!"乾道八年，梁克家改任尚书左右仆射、同中书门下平章事为左丞相。虞允文推荐梁克家为右丞相兼枢密使。虞允文出任四川宣抚使后，梁克家独力秉政，朝纲整肃，连贵戚权幸也不敢违犯。

梁克家在富国强兵方面曾作过很大努力，金国因此不敢南下。但他在对待金国的态度上始终谨慎。当时一些朝臣以为国力有所充实，想对金国采取强硬对策。张说知枢密院事后渐揽政权，这种呼声更得到支持。梁克家很不赞成，又和张说意见不合。后来在金国使者人朝授书的仪式上，张说坚持"移文对境以正其礼"，梁克家不赞同，因此再请求离任，以观文殿大学士出知建宁府(治所在今福建省建瓯县)。梁克家辞朝时，孝宗询问治国大事。梁克家说:"治国不要希求奇功!"不久，尚书等三省及枢密院移牒给泗州(治所在今安徽省泗县)金人，金人不从命，反而派使者渡海进行威胁，举朝震惊。两年后，即淳熙三年(1176年)，汤邦彦出使金国求陵寝地，被金人拒绝，因而贬官。朝臣进一步认识梁克家为国运筹的深谋远虑。淳熙五年(1178年)，梁克家丧母，离任守孝。有人疏论他执掌朝政期间，对待吏属暴戾，擅改堂部授任的官员，因而落职，以观文殿大学士提举浙江省临安府洞霄宫。至淳熙七年，才起用出任福州知府。