Từ 1970 - 1975, với nhiều diễn biến lớn diễn ra tại Việt Nam, đời sống cũng như công việc của ông cũng có nhiều bất ổn. Ngày 17 tháng 4 năm 1975, đài phát thanh của Mặt trận Dân tộc Giải phóng miền Nam Việt Nam cho đăng tuyên bố tử hình vắng mặt Phạm Duy và hai người khác vì thái độ chống cộng. Những ngày cuối tháng 4 năm 1975, trước việc quân Giải phóng miền Nam vào Sài Gòn, Phạm Duy quyết định đưa gia đình di tản ra nước ngoài. Ngày 28 tháng 4, ông và vợ, hai con gái được máy bay của Mỹ đem đi.  Trải qua nhiều khó khăn của hành trình di tản, ông và gia đình cũng ổn định, cư ngụ tại Thành phố Midway, Quận Cam, California.  Năm 1990, ông bắt đầu viết hồi ký, khi hoàn tất chia làm 4 cuốn.

     Năm 1999, vợ ông là bà Thái Hằng qua đời, sự kiện này khiến ông bị cao huyết áp phải đi nằm bệnh viện một thời gian dài. Sau năm này, ông quyết định thực hiện những chuyến về thăm quê hương sau 25 năm xa cách.  Tháng 5 năm 2005, ông chính thức trở về Việt Nam, mua nhà sống tại Quận 11, Thành phố Hồ Chí Minh cùng các con trai Duy Quang, Duy Cường. Tháng 7 cùng năm, lần đầu tiên kể từ năm 1975, 9 bài hát của ông được cấp phép phổ biến. Thời kỳ này ông vẫn hoạt động âm nhạc, tuy sức khỏe đã có dấu hiệu giảm sút, nhiều bệnh được phát hiện ra.

     Ngày 27 tháng 1 năm 2013, sau một thời gian nằm viện, ông qua đời, một tháng sau cái chết của con cả ông là ca sĩ Duy Quang.  Tang lễ của ông được tổ chức tại nhà riêng và ông được an táng tại Công viên Nghĩa trang Bình Dương vào ngày 3 tháng 2 năm 2013, thọ 91 tuổi.