1949年1月8日晚，胡适应邀去蒋介石官邸吃晚餐。席间蒋介石问胡适今后有何打算，胡适说他现在能想到的，是继续考他的“水经注”,蒋介石看来已成竹在胸，极力劝说胡适再去美国，怕胡适有误解，他说：“我不要你做大使，也不要你负什么使命。例如争取美援，不要你去做。我只要你出去看看。”
1月15日，胡适到上海。21日，胡适送江冬秀乘船去台湾。就在当天，蒋介石宣布“引退”，由副总统李宗仁代行总统职务。
1月24日，胡适给吴忠信写信，辞去总统府资政之聘。胡适说，自己现在还是北京大学校长，因时局关系，此时还不能辞职。
1月25日，胡适乘车到上海，暂住霞飞路1946号，其间曾整理上海合众图书馆藏叶揆初藏三种《水经注》抄本。3月下旬，胡适曾到台湾，在中山堂演讲《中国文化里的自由传统》。
1949年4月6日，胡适从上海乘克里夫兰总统号轮离开，21日抵美国旧金山，27日到达纽约。住进东城81街104号他原来租住过的公寓里，开始了他在纽约的流亡寓公生活。
纽约，这个世界最大的都会，对胡适来说，是那么熟悉，然而又那么陌生。纽约，已不再像胡适留学时代那样富于魅力，令人神往；也不再有他任大使前后那种战争年代的特别气氛，令人振奋。现在的胡适，带着一点有限的存款，逃亡到异国他乡。只是一个年老多病，手难缚鸡的书生，谋生乏术，一时找不到职业。而随着国民党政府垮台，逃亡美国的党国要人和败阵将军，一个个沮丧潦倒的模样，在纽约街头则随处可见，这更让胡适沮丧。
在这里，胡适的那些国民党的朋友们，也一个个牢骚满腹，对蒋介石政府怨恨不休。胡适于是取消一切约会，关起门来继续考他的《水经注》。
第二年，夫人江冬秀也到了纽约，胡适的幽居生活才算有了一点慰藉。他们租赁的公寓，虽然已经破旧，毕竟也能蔽风雨。雇不起帮佣，便一切自理。夫人打扫厨房，胡适整理内务。夫人烧饭做菜，胡适便洗刷碗筷，……洗衣、收拾房间等，胡适也抢着去做。鼎鼎大名的胡适，平常衣来伸手，饭来张口，现在竟也学会了种种家务劳动。生活是很清苦的，俗话说得好，人有享不了的福，没有遭不了的罪。老了老了，胡适反而成了个很勤快的人。或许，正是这“老来穷”逼出来的啊!生活是相当清苦的。然而在国内
在生活费很高的纽约市，没有固定收入，难免吃山也空，更何况胡适只有一点有限的存款！胡适虽是“不可救药的乐观主义者”，面对晚年凄清困窘的现实，也难免悲从中来，以致多次对他的少年朋友唐德刚说：“年轻时要注意多留点积蓄!”这发自内心的诚挚话语，既是对晚辈的关心和劝勉，更流露出对自己凄凉晚景的叹息。
纽约的寓公生活，不仅清苦，日常的安全也很难保障。
他们所住的是大使级的住宅区，但是胡适住的那那所破烂的公寓，却没有大使级的防盗设备。
一次胡适外出，胡太太一人正在厨房烧饭。一个彪形大汉的窃贼，忽然自防火楼梯，破窗而入。幸好胡太太没有学会一般美国女人临危时的尖叫，她老人家却是临危不惧地走向公寓大门，把门打开，反身对那悍贼，大叫一声“go”！
看来不管是哪里，都是做贼心虚。那位大黑贼，看了胡老太太一眼，真的从门口“go”了。她老太太把门关好，又径地回厨房烧菜去了。
1950年5月，胡适终于在普林斯登大学，谋得葛斯德东方图书馆管理员也可以称做馆长的职务，9月到职，合约两年。
普林斯登大学在纽约附近的新泽西州小城，为美国东部常春藤盟校之一，颇有声望。校中图书馆建筑精美，藏书丰富。葛斯德东方图书馆，是其独立的一个分馆。它由创始人葛斯德所收藏的中国图书为基础，逐步发展成以中文图书为主的东方图书馆。包括汉文、满文、蒙文、藏文，以及日本、朝鲜、印度和泰国的出版物，总计约有近30万册。其中最大量收藏的是中国医药学书籍及成套丛书。只是，这个图书馆刚刚成立的时候，普大当局对葛氏这一大批古色古香的中国线装书，究竟有何价值，完全不了解。他们知道胡适是中国的大学者，又正流寓纽约赋闲，便聘请他来校主持清理并经管这批图书。读书人自然愿意与书打交道，胡适何乐而不为。
葛斯德东方图书馆，那时在美国不仅一般人不知道，连美国的汉学界、华人学者也很少有人知道。馆里的工作人员也总共只有两个，除胡适外，另有一名助手童世纲。胡适上任之后，便下功夫清点整理。
1952年2月，他为普大筹划举办了一个以“十一世纪的中国印刷术”为题的特别书展。胡适亲自撰写了几篇介绍文章和书展目录。展览历时两个月，颇为轰动。