1860年5月, 鄭孝胥는 蘇州의 胥門에서 翰林學士鄭守廉의 아들로 태어났다. 1882年, 福建省正科鄕試에서 第一位(解元)를 차지했다. 1885年, 李鴻章의 門下에 들어가 幕僚로 活動했다. 1888年, 그는 淸나라 駐日大使館의 書記官으로 就任했으나, 以後淸日戰爭이 勃發함에 따라 本國으로 돌아갔다. 鄭孝胥는 戊戌變法에 參加했으며, 變法派의 唐才常과 往來가 있었다. 立憲運動時期에는 上海商務印書館과 上海貯蓄銀行의 設立, 그리고 新式敎育의 推進等에도 參與했다. 1908年, 鄭孝胥는 兩廣總督인 岑春煊의 派遣을 받아 豫備立憲公會會長에 就任하고, 淸朝廷에 早速히 國會를 召集할 것을 請願했다. 그 後廣西邊防大臣, 安徽按察使, 廣東按察使를 歷任했으나, 湖南布政使로 赴任中反淸革命이 發生하여 官職을 잃은 뒤로는 官界에 復歸하지 않았다.
辛亥革命以後, 鄭孝胥는 遺老를 自處했다. 宣統帝溥儀自身은 이미 1912年에 退位宣言을 했고 淸나라는 滅亡했지만, 淸室優待條件에 따라 大淸皇帝의 尊號와 紫禁城居住權이 認定되었으며, 宮廷機構도 維持하고 있었다. 1923年, 鄭孝胥는 遜帝溥儀의 스승인 陳寶琛의 推薦으로 紫禁城에 들어가 懋勤殿行走에 就任했다. 1924年에는 溥儀의 總理內務府大臣에 就任했다. 그는 過去淸나라 駐日大使館에서 書記官을 지낸 經驗 덕분에 日本側에 人脈을 가지고 있었다. 遜帝溥儀가 紫禁城에서 追放된 後, 그는 直接周旋하여 溥儀를 北京의 日本大使館에 머물게 했다. 1925年, 溥儀를 隨行하여 北京에서 天津의 日本租界地로 祕密裏에 逃亡했다. 日本側과 頻繁히 接觸하며 溥儀의 復位를 위해 힘썼다. 그는 日記에, 于先日本을 통해 政權을 樹立한 뒤, 國際列強에 의한 共同信託統治를 積極的으로 推動하겠다는 自身의 計劃을 記錄했다.
1931年滿洲事變發生後, 鄭孝胥는 溥儀에게 東三省으로 가도록 勸說했으나, 이로 인해 遺臣인 朱益藩等으로부터 激烈한 非難을 받았다. 鄭孝胥는 日本側과 滿洲國樹立에 合意하고, 滿洲國國歌의 歌詞와 『建國宣言』의 草案作成을 擔當했다. 滿洲國의 成立은 淸나라 遺民들에게 "淸皇室의 中興"과 "防共"이라는 二重의 役割을 遂行했다. 그러나 滿洲國의 "王道" 思想은 傳統的인 中國文化理念과는 달랐으며, 그 안에는 파시즘과 東亞諸民族의 反帝國主義思想까지 뒤섞여 있었다. 요컨대, 鄭孝胥는 中國의 傳統을 "再造"함으로써 滿洲國과 溥儀에게 正當性의 根據를 찾으려 했으나, 이러한 움직임은 中華民國의 國民政府로부터 輕蔑을 받았을 뿐만 아니라, 淸나라 遺民大多數의 共感을 얻지 못했다.
1932年3月, 鄭孝胥는 溥儀를 隨行하며 長春行列車에 올랐다. 滿洲國成立後, 鄭孝胥는 滿洲國國務院總理, 陸軍大臣, 文敎部總長에 就任했다. 滿洲國內閣에서는 各部署의 總長이 滿洲人과 漢人이었지만, 實權은 日本側이 쥐고 있었다. 이러한 現實을 마주한 鄭孝胥는 깊은 感慨를 느꼈다.
鄭孝胥는 그 後日本의 滿洲國에 대한 壓制에 反對했고, 그의 發言이 滿洲에 駐屯한 日本關東軍의 不滿을 샀기 때문에 1935年에 政界를 떠나지 않을 수 없게 되었다. 그 以降 그는 日本憲兵隊의 監視下에 놓였으며, 首都新京(舊長春市) 밖으로의 外出이 禁止되어 事實上軟禁狀態에 놓였다. 1938年新京에서 病死했으며, 皇帝溥儀로부터 "襄勤"이라는 諡號를 받았다.
1938年7月, 滿洲國政府는 鄭孝胥에게 國葬을 치러 주었으며, 墓所는 奉天市(現在의 瀋陽市) 東쪽 郊外, 淸나라 太祖누르하치의 陵墓인 福陵과 가까운 長壽山에 마련되었다. 墓碑에는 "大勳位鄭公孝胥及誥封一品夫人吳夫人之墓" 等의 글자가 새겨져 있다. 文化大革命期間 동안 墓碑는 쓰러뜨려지고 墓穴은 破壞되었으며, 鄭孝胥의 遺骨은 파내어 燒卻되었다. 墓碑는 한때 瀋陽市渾南區七間房村의 한 庭園內 장작 더미 속에 있었으나, 나중에 發見되어 2006年頃瀋陽市의 九一八事變紀念館으로 옮겨져 展示되고 있다.
鄭孝胥의 祕書를 지낸 日本人太田外世雄은 鄭孝胥를 기리기 위해 奉天市大和區(現在의 瀋陽市和平區)에 鄭孝胥를 모시는 神社 "太夷宮"을 建立했다. 太夷라는 名稱은 鄭孝胥의 字에서 由來했다. 中國文化에서 傳統的인 "宮"이라는 말을 使用하고, 日本式인 "神社"라는 말을 避한 것은 滿洲國의 現地人들의 反感을 사지 않기 위해서였다. 이 神社에서는 鄭孝胥를 日本의 神인 少彥名命의 化身으로 보고 있다.
鄭孝胥는 中國 및 世界歷史, 그리고 當時의 政治情勢에 대한 理解를 바탕으로 1920年代初盤, 中國의 未來方向에 대해 다음과 같은 豫言을 했다. "大淸은 이미 共和에 亡하였다. 共和는 共產으로 亡할 것이며, 共產은 共管(列強의 共同統治)으로 亡할 것이다". "三共論"이라고 불린다. 以後共和政의 中華民國은 果然共產黨에 의해 亡했다. 이 豫言은 오늘날까지도 中國의 一部 사람들이 興味津津하게 이야기한다.
