他的父亲胡启东是晚清的秀才，可他在接触到先进的思维之后，就开端积极参加反清的运动。
在辛亥革新后的1913年，胡启东还被推选为首届国会众议院议员，他跟随孙中山先生，而且有清晰的思维崇奉。
在段祺瑞的贿赂面前，胡启东不为所动，而且决然南下，参加了孙中山先生领导的护法运动。
在父亲的影响下，胡乔木自幼就表现出极高的文学涵养，特别是热衷于当地史志，在许多人的印象中，他很有“杜甫”的感觉。
上世纪20年代他一首《别辞》，就展现了胡乔木关于科学社会主义的信仰和推重，也让人感觉到，他是一个追逐“赤色”的人。
后来被载入史册的乔冠华同志，当年便是胡乔木的同学，在北平的年月里，胡乔木也加入了共青团安排，并开端出任清华大学团支部书记，开端锋芒毕露，这也和他的文笔有关。
有了在多地的思维启蒙，外加胡乔木自己就十分长于考虑，还有地下宣传作业的经历，胡乔木的才学以及安排协调才能得到了极为充沛的展现。
锋芒毕露的胡乔木，也有着更大的舞台来发挥自己的志向，胡乔木的才学，逐渐引起了延安方面的重视。
1937年，胡乔木总算接到了告诉，奉安排之命调离上海，和李凡夫一同去了延安。
此前的胡乔木一直叫胡更始，来到了延安之后，他将自己的姓名改掉，从此有了“胡乔木”。
改名的作业在其时并不算别致，许多有志青年加入了革新的部队，都是将自己的姓名改掉，有“面目一新”的滋味，那会的胡乔木满腔热血，天然也不会是个破例。
1938年7月他和李桂英成婚，也将妻子的姓名改为“谷羽”，夫妻两人的姓名结合在一同，更具诗意。
来到延安之后，胡乔木天然期待着和毛主席的攀谈，毛主席对这一个姓名也有着必定的认知，两人的会晤，是早晚的作业。
初次碰头，毛主席就十分贴心肠问了些寻常的问题，胡乔木感觉，间隔一下就被拉近了。
得知胡乔木是盐城人，毛主席若有所思，好像又在喃喃自语：“盐城，苏北，盐城……”
没过一会，毛主席就忽然问道：“东汉‘建安七子’有个陈琳，是你们苏北人吧？”
胡乔木很快就回答道：“是的，陈琳是古射阳人，南北朝时期，盐城区域曾被设置了射阳郡，陈琳现在是否在苏北盐城我不能必定，不过咱们家园在大纵湖邻近，那里有陈琳的墓葬。”
传闻那里竟然有陈琳的墓葬，毛主席更是忽然来了爱好，他问道：“唐代诗人温庭筠写过一首《过陈琳墓》，不知道你是否读过？”
这次简略的面试，毛主席因“一首诗和一座坟”，对这位娟秀的胡乔木已是十分垂青了。
他可以直接来到毛主席身边作业，也是他人生傍边的一次严重转机，常人十分难以遇到这一种的机会。
