Năm 1865 dưới triều Tự Đức, Nguyễn Văn Siêu cho xây cầu nối bờ với đền Ngọc Sơn và đặt tên là Thê Húc (棲旭), nghĩa là “nơi lưu lại ánh sáng mặt trời buổi sáng sớm”. Cầu gồm 15 nhịp, có 32 chân cột gỗ tròn xếp thành 16 đôi, mặt cầu lát ván,...