沈壹貫罷職後，萬歷三十五年五月葉向高晉禮部尚書兼東閣大學士，成為宰輔。次年，首輔朱賡病死，他升為首輔。
當時，神宗已久不視朝，閣臣李廷機又因受輿論攻擊，居家不理政，內閣中僅剩葉向高壹人。面對朝政混亂，黨派之爭愈演愈烈。他力奏增加閣臣，補充其他空缺官職和停罷礦稅，前後上奏達百余次。葉本人是東林黨元老，但為官多年，行事力求穩妥，和浙黨也能相安。因此他也幾次調解黨派紛爭。但因黨派之間積怨已深，他的調停也難見成效。經過多次的調停失敗，葉向高深感自己已無能為力，便堅決請求辭官，於萬歷四十二年八月晉少師兼太子太師，致仕。光宗泰昌元年(公元1620年)，家居六年後的葉向高被召為首輔，但未等他有所作為，光宗就病死了。
熹宗天啟元年(公元1621年)葉向高晉中極殿大學士，第三次擔任首輔。熹宗幼年登基，受其乳母客氏和宦官魏忠賢操縱。魏忠賢執掌司禮監，利用代替皇帝批閱奏章的大權，興風作浪，先後將吏部尚書周嘉謨、大學士劉壹燎等壹批正直大臣逐出朝廷。葉向高為人光明磊落，扶植賢良，極盡所能地保護了帥眾、陳良訓、熊廷弼等壹批朝臣幸免於難。天啟四年，魏忠賢勢力強盛，開始大殺東林黨人，凡朝中正直之士，都被加上東林黨的罪名，或流放、或殺害。魏忠賢的黨徒王紹徽還編制了黑名單稱《東林點將錄》。葉向高因是朝中清流的代表，被列為東林黨首魁。葉向高眼見黑雲壓城，自己又獨木難支，遂於同年七月致仕。
公元1627年，熹宗去世，葉向高亦於同年病逝，享年 69歲。思宗(崇禎帝)即位，在誅殺了魏忠賢後，追贈他為太師，賜謚號為文忠。
明朝“三朝元老”葉向高（1559-1627年）字進卿，又字臺山，“工詩文，精棋藝”是人所***知的。1582年，意大利傳教士利瑪竇（1552—1610年）應召前來中國布教。1598年9月7日抵達北京。1600年5月18日，利瑪竇再度赴京，次年1月24日獲準定居下來。
據記載，萬歷二十七年（1599年），葉向高在南京任禮部右侍郎時，第壹次結識了利瑪竇，並與利瑪竇切磋圍棋技藝，雙方圍繞圍棋問題展開過探討，其樂融融。萬歷三十五年（1607年），葉向高升任內閣首輔後，又在北京私宅中款待利瑪竇，再次通過圍棋與利瑪竇結下了深厚的友誼。利瑪竇在著作《利瑪竇中國劄記》中，對圍棋之事做了記載。據說，這些文字是歐洲歷史上第壹次對中國圍棋進行記錄。
葉向高為結識學識淵博的國際友人感到高興，欣然寫下《詩贈西國諸子》壹詩相贈：“天地信無垠，小智安足擬。爰有西方人，來自八萬裏。言暮中華風，深契吾儒裏。著書多格言，結交盡賢士。淑詭良不矜，熙攘乃所鄙。聖化被九埏，殊方表同軌。拘儒徒管窺，大觀自壹視。我亦與之遊，冷然待深旨。”該詩手稿現保存法國國家圖書館。
1610年5月11日，利瑪竇在北京病逝。依照慣例，客死中國各地的傳教士都必須遷葬澳門神學院墓地。利瑪竇生前曾有在京郊購買墓地的願望，外國傳教士和中國教友也希望皇帝能賜地埋葬利瑪竇。但假如這樣，就等於認可了外國教會在中國的合法地位。外國傳教士經過協商，便以壹個西班牙神父的名義，向皇帝呈上奏疏。明神宗是個懶惰成性的人，素來疏於批閱奏章，第三天才將奏疏批轉給了內閣大學士葉向高，讓其按慣例處理。葉向高由於曾與利瑪竇結下深厚的友誼，便吩咐手下把奏章從戶部調出，轉由禮部處置，利瑪竇最後被準許葬於京郊。當部分官吏以“從無此例”為由反對此舉時，葉向高反駁說：“自古來華洋人中，其道德學問，有壹如利子乎？毋論其它事，即譯《幾何原本》壹書，便宜賜葬地矣。”
1624年，致仕歸裏的葉臺山邀時稱“西來孔子”的意大利傳教士艾儒略（Givlio Aleni）來到福州，“三山論學”壹時成為佳話，艾到福州後在當地傳教二十五年。值得註意的是，艾著述頗豐 ，特備是將西方地理大發現以後的新地理知識傳入中國，編成《職方外記》 壹書，並廣為流傳，由此也可看出明末士林的壹種對外的開放態度以及悄悄興起的對西方的興趣。