หลังจากที่นายเลิศได้ซื้อที่ดินริมคลองแสนแสบ เรือนไม้สักหลักใหญ่ก็ได้ถูกสร้างขึ้นท่ามกลางหมู่แมกไม้ที่นับเป็นสวนหย่อนใจหรือ “ปาร์ค” เพื่อใช้เป็นเรือนพักผ่อนของครอบครัวและมิตรสหายในวันสุดสัปดาห์ อีกทั้งยังได้เปิดให้คนทั่วไปเข้ามาพักผ่อนหย่อนใจ รวมถึงเปิดให้ลูกเสือเข้ามาพักแรม คนทั่วไปจึงเรียกว่า “ปาร์คนายเลิศ” ส่วนเรือนไม้สักหลังงามที่ริมสวน ก็ถูกเรียกว่า “บ้านปาร์ค” อาจกล่าวได้ว่า ปาร์คนายเลิศ เป็นปาร์คแบบฝรั่งแห่งแรกของคนไทย โดยสร้างขึ้นเมื่อ พ.ศ.2458 ซึ่งมีมาก่อนสวนลุมพินีอันเป็นสวนสาธารณะแห่งแรกของประเทศสยาม บ้านปาร์คนายเลิศ มิได้เป็นเพียงชื่อเรือนไม้สักหลังใหญ่อายุกว่า 100 ปีบนผืนดินอันร่มรื่นใจกลางกรุงเทพมหานคร แต่บ้านปาร์คนายเลิศ ยังหมายถึงวิถีชีวิตและวิธีคิดที่ผสมผสานทั้งเก่าและใหม่ จนเกิดเป็นเอกลักษณ์ในการดำเนินชีวิตร่วมสมัย ซึ่งได้สืบทอดมาสู่ทายาทรุ่นหลานและเหลนของนายเลิศในปัจจุบัน ทุกวันนี้บ้านปาร์คนายเลิศผ่านการบูรณะและปรับปรุงรักษา เปิดเป็นพิพิธภัณฑ์กลางสวนที่ร่มรื่นและเปิดให้บุคคลภายนอกเข้ามาเยี่ยมชมบ้านทุกวันพฤหัสบดีและวันศุกร์ วันละ 3 รอบ (11:00น. 14:00น. และ 16:00น.)