Er war von 1969 bis 1970 Rechtsberater im Weißen Haus. Anschließend stieg er zum Chefberater für innere Angelegenheiten von Präsident Richard Nixon auf. Ehrlichmann leitete gemeinsam mit Stabschef Harry Robbins Haldeman eine Gruppe "Klempner", deren Aufgabe es war, "Lecks" zur Presse aus dem Umfeld des Präsidenten abzudichten. Im Zuge der Watergate-Affäre überredete Nixon die beiden am 30. April 1973 zum Rücktritt. 1975 wurde Ehrlichman zu 18 Monaten Gefängnis verurteilt.