Dọc theo đường Phan Đình Phùng có những dãy nhà được xây theo kiến trúc cổ của Pháp đầu thế kỷ 20. Đặc biệt phải kể đến là nhà thờ Cửa Bắc nằm đối diện với thành Thăng Long. Nhà thờ này được thiết kế bởi một kiến trúc sư, linh mục người Pháp tên là Dopolit vào năm 1931-1932 theo kiểu hình chữ nhật, kết hợp phong cách Á – Âu với cấu trúc bất đối xứng. Nhà thờ Cửa Bắc không chỉ được biết đến như là một địa điểm tôn giáo mà còn là một công trình kiến trúc độc đáo tạo nên một nét chấm phá trong không gian đô thị Hà Nội. Con đường còn được tô điểm bởi hàng cây sấu già với những chùm hoa trắng bé xinh từng trở thành đề tài xuất hiện trong biết bao bài thơ, bài ca.
Đường Phan Đình Phùng đã trở thành một trong những con đường thân quen gắn bó với biết bao thế hệ người dân Hà Nội đặc biệt là những nhà thơ, nhà văn nổi tiếng. Nơi đây vẫn còn in “vết xưa xe ngựa hồn thu thảo” nơi cổng chính Bắc Môn, vết đạn đại bác quân Pháp nã vào thành ngày 25/4/1988 và hàng chục căn biệt thự với kiến trúc Pháp điển hình.