La palabra que da origen a la localidad de Berge procede de la raíz "Berg", montaña o lugar entre cerros. La localidad fue poblada mucho tiempo atrás y se le atribuyen orígenes visigodos por la necrópolis hallada, aunque también se han hallado restos de cerámicos tanto íberos como romanos. Como sucede con otras localidades del Bajo Aragón, tras la reconquista, pasará a formar parte de la Orden de Calatrava. Berge dependerá del corregimiento de Alcañiz hasta el siglo XIX.
El municipio posee dos iglesias: la de San Franciso Javier y la de San Pedro Mártir, las dos de origen barroco. De la iglesia de San Pedro Mártir destacan elementos como el retablo dieciochesco con decoración alusiva a la pasión, las pinturas murales del presbiterio o el gran bajorrelieve en estuco del baptisterio. Además posee una torre campanario que se contempla desde lejos. Siguiendo el patrimonio arquitectónico podemos ver la capilla de la Virgen del Pilar sobre un portal resguardada bajo un arco de medio punto y en la parte superior completada con una espadaña. También es rico el patrimonio en casas solariegas con ejemplos como las casas Gracia Ferrer, Ginés Ginés o Aranda Gasión. Pero tampoco podemos olvidar la obra hidráulica formada por la fuente, el abrevadero y el lavadero, que aprovechaban una misma ubicación para el mejor aprovechamiento del agua utilizada. Berge también posee un antiguo horno de pan, ejemplo de cómo se elaboraba este alimento básico.
Saliendo del núcleo urbano no podemos olvidarnos de la ermita de la Virgen de la Peña, cuya historia se ve modificada un 29 de diciembre de 1936, cuando una gran piedra derrumba casi por completo la antigua edificación. En el año 1950 se vuelve a construir, esta vez con menores dimensiones, dando lugar a la ermita actual. Vecinos de Berge y de las localidades más próximas todavía siguen peregrinando hasta ella. Para llegar hasta la ermita recorreremos el calvario, un Vía Crucis natural en cuyo acceso nos topamos con un portal en piedra sillar seguido de distintas estaciones, formadas por los peirones que nos conducen a la ermita.
También a 4km de la localidad camino a Seno encontraremos la Torre Piquer, una masía fortificada. La misión de esta Torre era vigilar un tramo del camino que une Alcorisa y Berge con Seno y Castellote. Debido a su carácter defensivo tiene una medida muy estrecha, de unos 5 metros, para su considerable altura, de unos 10 metros, aunque actualmente se encuentra en un estado de gran deterioro.
La población se encuentra muy próxima al embalse de Gallipuen, que recoge las aguas del río Guadalopillo que pasa por la localidad. Este embalse fue construido en el año 1927 y tiene una capacidad de 4,4 hm3.
Las fiestas patronales de la localidad tienen lugar en torno al día 14 de julio y se celebran en honor a la Virgen de la Peña.