Miếu bà Phi Yến là nơi cần phải viếng thăm khi đi Côn Đảo. Dù bạn du lịch Côn Đảo vì mục đích nghỉ dưỡng, vui chơi thì cũng nên dừng chân ghé lại ngôi miếu linh thiêng này.
Muốn đánh bại nghĩa quân Tây Sơn, Nguyễn Ánh tính chuyện cầu viện quân Pháp và định gửi hoàng tử Cảnh sang làm con tin. Thứ phi (Hoàng Phi Yến) của Chúa can rằng “Việc đánh nhau với Tây Sơn là chuyện trong nhà, thiếp nghĩ Chúa công không nên nhờ ngoại bang, nếu thắng được Tây Sơn cũng chẳng vẻ vang gì mà e còn lắm điều tiếng rối rắm về sau”. Vì lời khuyên này, nhà chúa cho rằng thứ phi thông đồng với quân Tây Sơn nên tức giận xử tội chết.
Nhờ có quan đô đốc Ngọc Lân can gián và lúc đó hoàng tử Hội An (con của bà) còn quá nhỏ nên nhà chúa hạ lệnh tống giam bà trong một hang đá trên hòn Côn Lôn nhỏ (nay gọi là hòn núi Bà). Lấp kín cửa hang bằng những tảng đá lớn, chỉ để một ít bánh nếp và một chum nước lã đủ sống chừng nửa tháng. Vừa nhốt bà xong, nhà chúa nghe tin quân Tây Sơn sắp đánh ra đảo. Chúa Nguyễn vội vàng cùng tuỳ tùng xuống thuyền chạy về đảo Phú Quốc.
Khi thuyền nhổ neo, Hoàng tử không thấy mẹ bèn hỏi, có người tiết lộ mẹ của Hoàng tử bị giam cầm trên đảo. Hoàng tử khóc rống lên kêu gào, đòi cha cho mẹ cùng theo, hoặc là để mình ở lại với mẹ. Nguyễn Ánh tức giận đã túm đứa con vô tội ném xuống biển. Hoàng tử Hội An chết, thi hài dạt vào bãi san hô và được dân làng Cỏ Ống chôn tại khu rừng gần bãi Đầm Trầu rồi lập miếu thờ ngay trước mộ.
Bà Phi Yến cũng được dân làng giải thoát khỏi hang đá và cho bà biết sự tình về Hoàng tử. Mọi người cùng nhau giúp bà dựng một ngôi nhà ngay bên mộ Hoàng tử Hội An để bà chăm sóc mộ phần đứa con xấu số. Tên tục của bà là Lê Thị Dăm, Hoàng tử Hội An tên riêng là Cải nên người bấy giờ đặt ra câu hát:
“Gió đưa cây Cải về trời
Rau Răm ở lại chịu đời đắng cay”
Thời gian này, bà có sáng tác một bài thơ và được truyền miệng đến ngày nay:
“Đốt nén hương thề
tạ chúa công
Can vua nên nỗi tội thông đồng
Ngai vàng một thuở
ngồi chưa vững
Bia đá ngàn năm vết vẫn còn
Máu chảy ruột mềm
đau phận thiếp
Nồi da xáo thịt thoả tình ông
Sông sầu, núi thảm hoa mờ lệ
Đã khóc cho con
lại khóc chồng”
Vào ngày Rằm tháng Bảy năm Ất Hợi (1785), ban hương làng An Hải bên cạnh có cuộc đàn chay lớn, muốn cho buổi lễ phước thiện thêm long trọng, ban hội tế cử bô lão và phu kiệu qua làng Cỏ Ống xin được thỉnh, rước đức phi về dự. Dân làng dành cho bà một gian phòng đặc biệt để nghỉ ngơi. Năm ấy bà mới 24 tuổi, nhan sắc đang thời lộng lẫy, có tên đồ tể là Biện Thi liếc trộm dung nhan của bà đã không ngăn nổi tà dục. Đêm đó, hắn lén chui vào phòng bà toan giở trò xằng bậy. Nhưng hắn vừa chạm đến cánh tay thì bà đã giật mình, tri hô lên. Tức thì tên Biện Thi bị dân làng trói gô cổ.
Tuy dứt tình với chúa Nguyễn, song bà vẫn giữ vẹn mình trong sạch, bà cho rằng cánh tay ấy đã bị dơ dáy liền chặt bỏ và nhờ người mang chôn nhưng vẫn còn thấy tủi nhục. Đêm đó, thừa lúc mọi người không để ý, bà đã thắt cổ tự tử để vẹn toàn danh tiết. Hay tin, dân làng Cỏ Ống nổi giận với đủ thứ gậy gộc, giáo mác kéo sang làng An Hải buộc dân làng An Hải phải làm cho bà… sống lại, bằng không họ sẽ tiêu diệt cả làng.
Nhờ sự dàn xếp khôn ngoan của quan Hải trấn, dân làng Cỏ Ống mới bớt cơn thịnh nộ với cách xử lý là: Làng An Hải phải làm heo tạ tội và nộp tên Biện Thi cho làng Cỏ Ống toàn quyền định đoạt. Số phận đã an bài cho Đức bà nằm xuống ở làng An Hải nên cũng thuận theo ý trời để thi hài Đức bà lại cho dân làng An Hải lo an táng và lập miếu thờ, hàng năm cúng bái có sự tham gia của giới chức và dân làng Cỏ Ống.
Sau cuộc an táng thi hài của bà, tên Biện Thi cũng bị xử tội chết. Người ta truyền rằng Đức bà Phi Yến và Hoàng tử Hội An đã hiển thánh, thường hiện về mách bảo cho dân làng biết điềm lành, dữ sắp xảy ra. Dân trên đảo đã cùng nhau xây dựng một ngôi miếu để thờ bà.
Thực dân Pháp chiếm Côn Đảo, thiết lập nhà tù đã di dời toàn bộ dân trên đảo về đất liền, ngôi miếu không được chăm sóc đã sụp đổ. Năm 1958, Côn Đảo trở thành tỉnh Côn Sơn dưới chế độ Mỹ – ngụy. Viên trưởng ty ngân khố Côn Sơn là Nguyễn Kim Sáu đã xem lại “Sử lược Côn Đảo”, thấy có một người phụ nữ Việt Nam “Trung trinh tiết liệt” đã bỏ mình tại đây, bèn đề nghị trích một khoản tiền trong quỹ phúc lợi của tỉnh, sử dụng sức lao động khổ sai của tù nhân để xây dựng An Sơn Miếu, thờ bà Phi Yến ngay trên nền ngôi miếu ngày xưa.
An Sơn miếu ngày nay được UBND tỉnh Bà Rịa – Vũng Tàu xếp hạng di tích cấp tỉnh và là một trong những hạng mục của dự án quy hoạch trùng tu và phát huy di tích lịch sử Côn Đảo theo Quyết định số 264/2005/QĐ-TTg ngày 25-10-2005 của Thủ tướng Chính phủ về đề án phát triển kinh tế – xã hội huyện Côn Đảo đến năm 2020. Có thể nói, miếu bà là một trong rất ít di sản văn hoá dân gian ở Côn Đảo. Và là một trong hai phụ nữ (Hoàng Phi Yến và liệt sĩ Võ Thị Sáu) được dân địa phương tôn sùng như bậc thánh nữ linh thiêng…