En el año 1542 los españoles llegaron al Valle de Carumas y fundaron el pueblo de San Felipe de Carumas. Estos conquistadores trajeron consigo la Cruz del Alto San Felipe de Carumas que fue la primera señal de fe para inculcar el catolicismo. En esta fundación se colocó esta cruz en el centro de la plaza para bendecirla y luego ser llevada a la cumbre del cerro más alto para que sirviera de custodia al pueblo. Desde entonces la Festividad de las Cruces de Carumas se celebra el 2 y 3 de mayo de cada año. La Cruz del Alto de San Felipe es la de mayor arraigo en la zona Carumeña, se festeja junto con otras cruces del valle con respeto y cariño.
La festividad inicia en los hogares, donde se muele el maíz en los batanes de piedra para preparar las riquísimas humitas, las cuales sirven de fiambre para los fieles que en romería suben al Alto del Cerro rumbo al santuario de la Cruz. La subida al cerro es bajo los acordes de los charangos y cantos de las mujeres, cargados todos ellos de las promesas y agradecimientos al símbolo sagrado que los espera con los brazos abiertos; todos los feligreses, al llegar, se postran delante de la Cruz para saludarla, ofrecerle sus plegarias, agradecimientos y oraciones, y realizar la tinca ritual costumbrista, quiénes ofrecen dos copas: una con chicha y otra con aguardiente, líquido que se esparcían en multitud de gotitas al ser lanzadas al viento frío, el rito continua, las creencias se acentúan con reverencia a las fuerzas misteriosas de la naturaleza y la fe, luego, todos los fieles suelen parcelar el cerro simulando tener sus haciendas, casas, movilidad, entonando canciones de alabanza a las cruces, luego, en un acto fraterno y solidario, todos comparten sus fiambres.
Cuando termina el acto de la tinca con el ofrecimiento de pedidos, salen del interior de la casita de la Cruz, se lanza un cohete, señal que ya se retorna, luego se organiza las ruedas de feligrese quienes inician el retorno bajo el toque de los charangueros y cantos de las mujeres. Se inicia la bajada de la cruz en medio de alegría y de cantos, llegando hasta la planicie de Torrine, donde el alferado prepara el sacrificio del cordero, sacándole el corazón del animal, luego se derrama la sangre en todas las direcciones en señal de suerte y como pago de la tierra, la carne del cordero se prepara en asado sobre piedras calientes, sin sal, para luego ser degustado por los asistentes.
Continúa el descenso o bajada entre bailes y cantos con refranes alusivos a la Cruz hasta llegar a San Bernabé, el ingreso del pueblo, y allí se junta la Cruz del Alto San Felipe con la Cruz de Huataraquena y otras de diferentes lugares de la zona, en procesión, todos los acompañantes alegres contando llegan a la puerta del templo para recibir la bendición y luego llevar a la Santísima Cruz a la casa del alferado, para recibir los honores, cantos, sahumerios, tincas y recibir las diferentes manifestaciones de adoración, bailes, los ofrecimientos diversos y por la noche se baila la danza de La Palomita. Luego la Cruz nuevamente es llevada a su altar para cubrirla con ropa y con otros atuendos que llevan los feligreses y alferados. Cada poblado del Valle de Catari tiene su Cruz para festejar y le da un nombre, así tenemos la Cruz de Inchoque, Cruz de Solajo, Cruz de Talavacas, etc.
Esta celebración se torna interesante para los visitantes, quienes pueden participar en todas las actividades de forma directa junto a los lugareños, permitiendo conocer la cultura y tradición de los Carumeños.