Một trong những di tích lịch sử đáng chú ý là Đình thần Lại Sơn - nơi thờ tự Thành hoàng bổn cảnh, phối thờ người anh hùng Nguyễn Trung Trực ở tiền điện. Đặc biệt, đình có sắc phong của vua Bảo Đại cho Thành hoàng.
Trong đền, trên tấm vách cũ bên hương án và trong ngổn ngang kiệu rước trống hội có treo một bức tranh được vẽ vào năm 1969. Bức tranh mô phỏng trận thủy chiến và thể hiện rõ khí phách rực lửa của con người và đất biển Kiên Giang đã sinh sống ở đây hơn 40 năm qua, cho dù Hòn Sơn đã trải qua những cơn bão biển quét đi nhiều mạng người. Trên bức tranh có câu thơ của danh sĩ Huỳnh Mẫn Đạt:
"Hỏa hồng Nhật Tảo oanh thiên địa.
Kiếm bạt Kiên Giang rợn quỷ thần".
Vì thế, từ trong tín ngưỡng, tâm linh của người dân nơi đây, những vị anh hùng dân tộc có công giữ biển, giữ đảo vẫn hiện hữu trong cuộc sống. Và người dân nơi đây thờ cụ Nguyễn Trung Trực như một vị thần bảo trợ cho vùng đất này.

------------------

Xem thêm: Cẩm nang du lịch Hòn Sơn tự túc và Tour du lịch tự túc Hòn Sơn