วัดที่เคยเป็นแดน "ประหารชีวิตนักโทษ" สร้างเมื่อปี พ.ศ. 2390 โดยกำนันเพชร ที่ได้ตั้งด่านเก็บค่าหัวนา (ค่าผ่านทาง) จากพ่อค้าที่ขนสินค้ามาทางเรือเพื่อนำไปขายในเมืองบางกอก และรวบรวมเงินที่ได้มาสร้างเป็นวัดขึ้น โดยให้ชื่อว่า "วัดภาษี" ต่อมาสภาพวัดชำรุดทรุดโทรมมาก จนแทบจะกลายเป็นวัดร้าง ทางราชการจึงใช้พื้นที่ป่าช้าท้ายวัด เป็นแดนประหารชีวิตนักโทษฉกรรจ์ ซึ่งนักโทษคนสุดท้ายที่ถูกประหารชีวิตด้วยการตัดคอก็คือ น.ช.บุญเพ็ง หีบเหล็ก ผู้ก่อคดีสยองขวัญ เมื่อ พ.ศ.2461 ด้วยการฆ่าหั่นศพยัดใส่หีบเหล็กไปทิ้งน้ำ จึงได้รับฉายาว่า "บุญเพ็ง หีบเหล็ก" เป็นข่าวโด่งดังในสมัยนั้นมาก ซึ่งทางวัดได้ปั้นรูปจำลอง "บุญเพ็ง หีบเหล็ก" ไว้ในวัดเพื่อเป็นอุทาหรณ์ให้อนุชนคนรุ่นหลังจะได้ไม่เอาเป็นแบบอย่างต่อไป ปัจจุบันวัดภาษี ส่งเสริมให้ประชาชนเข้าวัด ทำบุญ เจริญสติ โดยมีกิจกรรมหลายอย่างที่จัดขึ้นเพื่อชุมชน เช่น เปิดสอนพระพุทธศาสนาวันอาทิตย์ เป็นสถานที่ศึกษาของศูนย์การศึกษานอกโรงเรียน เป็นสถานที่สวดมนต์และปฏิบัติธรรมวันอาทิตย์ ตลอดจนการเทศนาธรรมวันธรรมสวนะ นอกจากนี้ยังเป็นสถานที่จัดโครงการไถ่ชีวิตโค-กระบือ และการทำบุญตามวาระต่างๆ

พิพิธภัณฑ์เรียนรู้การลงทุน (Investment Discovery Museum) เป็นศูนย์การเรียนรู้ด้านการเงินและการลงทุน โดยมุ่งเน้นที่กลุ่มเป้าหมายหลัก ได้แก่ เยาวชนไทย ให้มีความสนใจในเรื่องการวางแผนทางการเงิน และเกิดแรงบันดาลใจที่จะเริ่มต้นลงทุน และเข้าใจถึงความสำคัญของตลาดทุน ซึ่งช่วยให้ผู้เข้าชมได้รู้จักและตระหนักถึงปัญหาทางการเงินที่มีอยู่รอบ ๆตัว จนสามารถบรรลุเป้าหมายที่วางไว้ในที่สุด นอกจากนี้ยังมีการใช้เทคโนโลยีที่ทันสมัยและสื่อการเรียนรู้ที่หลากหลาย

เป็นพิพิธภัณฑ์ที่ตั้งอยู่ในบริษัทติลลิกี แอนด์ กิบบินส์ เมื่อปีพ.ศ.2532 ที่รวบรวมสินค้าปลอมและสินค้าเลียนแบบไว้หลากหลายประเภท ทั้งสินค้าที่ใช้ในชีวิตประจำวัน และสินค้าฟุ่มเฟือย ที่ได้มาจากการจับกุม เช่น เครื่องใช้ไฟฟ้า เสื้อผ้า เครื่องหนัง และเครื่องสุขภัณฑ์ ปัจจุบันมีสินค้าปลอม และเลียนแบบสะสมไว้ประมาณ 1,500 ชิ้น ซึ่งเข้ามามีบทบาทช่วยให้ความรู้แก่ประชาชน โดยมุ่งเน้นไปที่เจ้าหน้าที่รัฐ และผู้ที่เกี่ยวข้องกับคดีความด้านนี้ เช่น ตำรวจ อัยการ ผู้พิพากษา และเจ้าหน้าที่ศุลกากร เป็นต้น เพื่อให้แยกแยะได้ว่าสินค้าใดเป็นของจริง สินค้าใดทำปลอมหรือทำเลียนแบบ ผิดกฎหมายข้อไหนอย่างไร นอกจากนี้ยังสามารถชมผ้าสะสมของบริษัทติลลิกี แอนด์ กิบบินส์ ซึ่งเป็นผ้าพื้นเมืองและ ผ้าหายากของชนกลุ่มไตที่บริษัทใช้ตกแต่งสำนักงาน ผ้าทุกผืนมีเลขทะเบียน ถูกเก็บรักษาดูแลอย่างดี มีการจัดแสดงผ้าหมุนเวียนทุกหกเดือน

จัดแสดงพระราชประวัติ พระราชกรณียกิจ ภาพถ่าย เครื่องใช้ส่วนพระองค์ของพระบาทสมเด็จ พระปกเกล้าเจ้าอยู่หัว มีห้องศาลาเฉลิมกรุงจัดฉายวีดิทัศน์และภาพยนตร์ ทั้งภาพยนตร์ฝีพระหัตถ์ในรัชกาลที่ 7 และภาพยนตร์เก่าร่วมรัชสมัย ซึ่งทรงคุณค่าทางประวัติศาสตร์และหาชมได้ยาก โดยจำลองบรรยากาศการชม ภาพยนตร์ในศาลาเฉลิมกรุง ซึ่งเป็นโรงภาพยนตร์ซึ่งพระบาทสมเด็จพระปกเกล้าเจ้าอยู่หัว โปรดเกล้าฯ ให้จัดสร้างขึ้นเนื่องในโอกาสสมโภชพระนครอายุครบ 150 ปี ในปี พ.ศ. 2475 และพระราชทานชื่อโรงภาพยนตร์

สวนสาธารณะที่แต่เดิมเป็นที่ตั้งของเรือนจำพิเศษกรุงเทพมหานคร และได้ถูกปรับปรุงกลายเป็นสวนสาธารณะ เพื่อถวายแด่สมเด็จพระนางเจ้าสิริกิติ์ พระบรมราชินีนาถ ในวโรกาสที่มีพระชนมายุ 60 พรรษา พ.ศ. 2535 ภายในมีสวนสุขภาพ โดยจัดอุปกรณ์ออกกำลังกายเป็นจุดพร้อมคำแนะนำ มีลานกีฬา เช่น สนามบาสเก็ตบอล และลานสเก็ต เป็นต้น จากการที่สวนรมณีนาถได้ดัดแปลงมาจากเรือนจำ ภายในบริเวณสวนจึงยังคงอนุรักษ์แนวรั้วกำแพง ป้อมยาม ซุ้มประตูทางเข้าไว้เป็นสัญลักษณ์ และเป็นส่วนประกอบของสวนที่ทำให้สวนสาธารณะแห่งนี้มีลักษณะที่โดดเด่น แปลกตาอีกอย่างหนึ่งด้วย