1982-1992年，是中共中央顾问委员会从十二大设置到十四大撤销的10年存续时期。中顾委是以邓小平为代表的中国共产党人在特殊的历史条件下，为解决干部系统吐故纳新、新老交替而创造的一个过渡性的组织形式。
邓小平提出设顾问最早是从军队开始的。1975年7月14日，他在中央军委扩大会议上讲了在军队设顾问组的问题。他指出："设顾问是一个新事物，是我们军队现在状况下提出的一个好办法。设顾问，第一关是谁当顾问，第二关是当了顾问怎么办？”“顾问组的组长，不参加党委，可以列席党委会，好同顾问组通气。其他待遇不变，但是配汽车、秘书要变一变。”“顾问也有权，就是建议权。顾问要会当，要超脱。不然，遇事都过问，同级党委吃不消。设了顾问，究竟会有什么问题，等搞年把子再来总结经验。”当时，邓小平提的顾问制度并未完全行得通，虽然道理大家都明白，但却没人愿意当顾问。后来，由于邓小平再次被打倒，设顾问的事情便被搁置下来。
1977年，邓小平第三次出来工作后，在解决了党的政治路线和思想路线后就着手解决组织路线问题。邓小平感到，现在我们国家面临的一个严重问题，不是四个现代化的路线、方针对不对，而是缺少一大批实现这个路线和方针的年富力强、有专业知识的干部。确定了实现四个现代化的目标还不够，还要有人干。谁来干？靠老干部坐在办公室画圈圈不行，没有希望。一次，邓小平在中央党、政、军机关副部长以上干部会议上讲道：“现在我们搞四个现代化，急需培养、选拔一大批合格的人才。这是一个新课题，也是对老同志和高级干部提出的一个责任，就是要认真选好接班人。老干部现在大体上都是60岁左右的人了，60岁出头的恐怕还占多数，精力毕竟不够了，不然为什么有些同志在家里办公呢？为什么不能在办公室顶八小时呢？我们在座的同志中能在办公室蹲八小时的确实有，是不是占一半，我怀疑。我们老同志的经验是丰富的，但是在精力这个问题上应该有自知之明。就以我来说，精力就比过去差得多了，一天上午、下午安排两场活动还可以，晚上还安排就感到不行了。这是自然规律，没有办法。”邓小平接着说：“粉碎‘四人帮’以来，我们把老同志都陆续请回来了，并且大体上恢复了原来的或者相当于原来的职务。这样，我们的干部就多起来了。把老同志请回来是完全必要的，是非常正确的。现在我们面临的问题，是缺少一批年富力强、有专业知识的干部。而没有这样一批干部，四个现代化就搞不起来。我们老同志要清醒地看到，选拔接班人这件事情不能拖。否则，搞四个现代化就会变成一句空话。”邓小平清醒地看到顾问制度只是一个出路，要真正解决问题不能只靠顾问制度，重要的是要建立退休制度。
从1980年起，邓小平即开始做退休的准备工作。8月，中央政治局召开了扩大会议，邓小平在《党和国家领导制度的改革》讲话中透露："中央正在考虑再设立一个顾问委员会（名称还可以考虑），连同中央委员会，都由党的全国代表大会选举产生。这样就可以让大批原来在中央和国务院工作的老同志，充分利用他们的经验，发挥他们的指导、监督和顾问的作用。同时，也便于使中央和国务院的日常工作更加精干，逐步实现年轻化。”
1981年，华国锋辞职时，党内外一致要求邓小平出任党中央主席，甚至连一些外国领导人也通过各种渠道表达了此种愿望。邓小平力排众议，推荐年轻的同志主持党和国家领导工作。7月2日，党的十一届六中全会的帷幕刚落下没几天，邓小平便又在各省、市、自治区党委书记座谈会上提到设顾问委员会以容纳一些老同志的设想，并说：“这是为后事着想。”1982年1月13日，邓小平在中央政治局会议上谈到要老同志让路，让中青年干部上来接班的问题时，把它比喻为“一场革命”，并疾呼：这场“革命”不搞，让老人、病人挡住比较年轻、有干劲、有能力的人的路，不只是四个现代化没有希望，甚至于要涉及到亡党亡国的问题，可能要亡党亡国。
邓小平想出两个办法：一是劝说一部老同志退出合适岗位，二是设立中顾委。邓小平有意识地采用这种史无前例的办法，目的是为了平稳过渡。顾问不任现职，这样就可以把位子让给能干四化的年轻人。
顾问又是一种职务，而且它的级别不低于同级党委成员，让老同志把自己的椅子移到这种地方，工作比较好做。然而，顾问的头衔不单是起安慰作用，还有“传、帮、带”的责任。邓小平的这一层谋略用意很深。因为当时的中国领导班子不仅存在老化问题，还存在断层问题。“文革”影响了一代人，在这种情况下，老同志一下子将工作丢开不管也不行，必须在离开前选好接班人，并把他们放到领导岗位上加以扶植。接班人在一线顶事，老同志则利用他们的经验在二线上做参谋，必要时指导指导，发现选的人不适当就换人。到时年轻人成熟了，老同志放心了，顾问制自动取消，终身制到此为止，过渡到常规退休制，新老交替顺利完成。
但当时有部分老干部对此不甚理解，认为老干部刚恢复工作又要离休，屁股还没有坐热，中央对老干部不公正。还有一些人甚至认为，三四十岁的人是“文革”经历者，他们没学到什么东西，提拔干部没他们的份儿。看来，邓小平还得做一些劝说工作。
真正考虑成熟并下定决心设立顾问委员会是在党的十二大召开前夕。1982年2月18日，邓小平在会见柬埔寨的诺罗敦·西哈努克亲王和夫人时说，干部老化问题已到了非解决不可的地步了。7月4日，邓小平在军委座谈会上谈到"老干部在上面，中青年干部上不来"的问题时转述了聂荣臻的一句话：聂荣臻提出，步子要稳妥。我赞成。他有一个意见，就是要结合，老的一下丢手不行，老的要结合中青。他还说，干部年轻化，台阶可以上快一点，这个问题解决不了，我们这些人交不了账。如果再拖5年，怎么办？
9月6日，在中国共产党第十二次全国代表大会上，通过了新的《中国共产党章程》，在新党章的第三章第22条里明确了中顾委的组成原则和职能作用：党的中央顾问委员会是中央委员会政治上的助手和参谋。中共十二大上，邓小平出任过渡形式的中央顾问委员会主任，他意在为退休做铺垫。会上，邓小平就中顾委的性质和任务作了重要讲话。他说：中央顾问委员会是个新东西，是根据中国共产党的实际情况成立的，是解决我们这个老党、老人实现新旧交替的一种组织形式。目的是使中央委员会年轻化，同时让老同志退出一线后继续发挥一定的作用，顾问委员会就是这样一个组织。可以设想，我们再经过10年，最多不要超过15年，取消这个顾问委员会。
1987年党的十三大召开前，邓小平、陈云、李先念等人共同约定"一齐退下来，而且是一退到底。即退出中央委员会，不再担任任何职务。彭真、邓颖超、徐向前、聂荣臻也要求‘全退’”。对于邓小平、陈云、李先念“全退”的要求，尤其是对邓小平“全退”的要求，中央许多人表示不能接受，特别是老同志。后来，经过中央政治局反复讨论，并征求多方意见，决定邓小平、陈云、李先念3人"半退"，即退出党的中央委员会，但仍担任一定职务——邓小平担任中央军委主席，陈云担任中顾委主任，李先念担任全国政协主席；彭真、邓颖超、徐向前、聂荣臻“全退”，即退出党的中央委员会，不再担任任何职务。在党的第十三次全国代表大会上，在三老“半退”、四老“全退”的带动下，中央和各省、市、自治区又有一批老干部退出第一线的领导岗位，增选为中顾委委员和各省、市、自治区的顾问委员会委员，一批年轻干部走上了一线领导岗位。
1989年6月23日至24日，中共十三届四中全会在京召开。全会选举江泽民为中央委员会总书记，增选了中央政治局常委，这标志着以江泽民为核心的第三代中央领导集体的建立。
9月4日，一个极为平常的日子。几辆小轿车驶过喧闹的大街，前后有序地驶进景山后街一个僻静的胡同，在两扇铁门前停了下来。须臾间，铁门悄然无声地被打开，等几辆小车轻轻地开进去后，大门又轻轻地关上了。院子里是一片生机盎然的景象：几棵石榴、核桃、柿子、海棠树和葡萄架上已经长出了果实。三棵雪松已经长得遮天蔽日。几棵白皮松英姿华美，伸向蓝天。特别惹人注目的是两棵油松，长得淳朴、苍健。这就是邓小平的住处。
江泽民等几位中央领导从车里走下来，在工作人员的迎候下，走进了宽敞明亮、陈设简朴的屋子里。邓小平和他们一一握手后，面对大家开门见山地说：“今天主要是商量我退休的时间和方式。”由于几位中央领导同志从心里讲还是希望邓小平不要退，所以想开口解释。
邓小平挥了一下手，说："退休是定了，退了很有益处。"