La Iglesia de San Vicente es un ejemplo de la arquitectura de estilo gótico vasco del siglo XVI, conocido también como “segundo gótico”.
Esta iglesia probablemente se edificó sobre una ermita del siglo IX. Su fachada es renacentista y en su interior está enterrado el escritor y cronista de la Villa Antonio Trueba.
Precisamente una estatua dedicada a Trueba preside los Jardines de Albia, y los últimos versos del escritor se pueden leer en la lápida de la Iglesia: “Dicen que el cisne cuando muere canta, y hoy tanto de mortal mi dolor tiene que es acaso la del cisne mi garganta”.