Carmen viene de Carmelo, un monte situado en la población marítima de Haifa en el norte de Israel, en la zona de Galilea. Precisamente, Karmel (Carmen) significa en hebreo «jardín» y en latín «poesía».
La memoria de Elías se guardó siempre viva de modo particular en el Monte Carmelo, donde se eligió seguir al Dios de Israel. Según el relato, Primer libro de los Reyes, capítulo 18, el sacrificio de Elías, consumado por el fuego que descendió del cielo, mostró al pueblo que Yahvé era el verdadero Dios.
Allí se nos dice que las gentes de aquellas tierras de Haifa adoraban en su amplia mayoría al dios pagano Baal. El profeta Elías, que predicaba los mensajes del Señor, sin recibir demasiadas respuestas de los habitantes, les propuso que organizaran conjuntamente un sacrificio a la ladera del Monte Carmelo, cada uno rogando a su respectivo Dios, para invocar la lluvia, ya que habían estado 3 años de sequía. En primer lugar, lo hicieron los partidarios de Baal, sacrificando un novillo en medio de oraciones, pero no obtuvieron respuesta. Inmediatamente Elías y sus pequeños seguidores cogieron otro novillo y al cabo de pocos instantes cayó fuego sobre el altar y sonaron grandes truenos. Elías invitó a uno de sus seguidores para que subiera a la cima de la montaña y desde allí éste le dijo: «Una nube pequeña como la palma de la mano de un hombre sube del mar».
De pronto, el cielo se oscureció con nubes y viento, y cayó una lluvia abundante. Cabe decir que algunos religiosos carmelitas y escritores del siglo XIV vieron en la mencionada nubecilla la presencia de la Virgen. Esto no deja ser una bella leyenda devocional sin fundamento, ya que faltaban unos 900 años para que María naciera.
Elías estuvo disponible para la obra de Dios y enviado a proclamar su palabra. Emprendió un largo viaje por el desierto, un viaje que lo dejó exánime. Se cobijó bajo un árbol y pidió la muerte. Pero Dios no permitió su muerte, sino que lo impulsó a continuar su viaje hasta el monte Horeb. Cuando llegó, Dios se mostró a Elías, no en los consabidos signos del antiguo testamento: fuego, terremoto o del fuerte viento, sino en una ligera brisa. Elías fue enviado nuevamente a su pueblo para continuar cumpliendo la voluntad de Dios.
El Carmelo era sin duda, el monte donde numerosos profetas rindieron culto a Dios. Los principales fueron Elías y su discípulo Eliseo, pero existían también diferentes personas que se retiraban en las cuevas de la montaña para seguir una vida eremítica. Esta forma de oración, de penitencia y de austeridad fue continuada siglos más tarde, concretamente en el III y IV, por hombres cristianos que siguieron el modelo de Jesucristo y que de alguna forma tuvieron al mismo Elías como patrón situándose en el valle llamado Wadi-es-Siah.
A mediados del siglo XII, un grupo de devotos de Tierra Santa procedentes de Occidente -algunos creen que venían de Italia-, decidieron instalarse en el mismo valle que sus antecesores y escogieron como patrona a la Virgen María. Allí construyeron la primera iglesia dedicada a Santa María del Monte Carmelo. Desde su monasterio no quisieron crear una nueva forma de culto mariano, ni tampoco, el título de la advocación respondía a una imagen en especial. Quisieron vivir bajo los aspectos marianos que salían reflejados en los textos evangélicos: maternidad divina, virginidad, inmaculada concepción y anunciación. Estos devotos que decidieron vivir en comunidad bajo la oración y la pobreza fueron la cuna de la Orden de los Carmelitas, y su devoción a la Virgen permitió que naciera una nueva advocación: Nuestra Señora del Carmen.
En la Edad Media se creía que María significaba «estrella del mar», en latín «stella maris». Desde aquella época, muchos carmelitas han aclamado a María como la «Flor del Carmelo» y la «Estrella del Mar». Lo hizo el mismo Simón Stock con esta plegaria que se le atribuye: «Flor del Carmelo Viña florida, esplendor del cielo, Virgen fecunda, singular. ¡Oh, Madre tierna, intacta de hombre, a todos tus hijos proteja tu nombre, ¡Estrella del Mar!»
El nombre de «Stella Maris» se ha dado también a todos los centros del Apostolado del Mar de la Iglesia Católica que están ubicados en los puertos. En el siglo XVIII, cuando ya era muy popular la fiesta de la Virgen del Carmen en España, el almirante mallorquín Antonio Barceló Pont de la Terra, nacido en 1716 y fallecido en 1797, impulsó su celebración entre la marinería que él dirigía. Fue a partir de entonces cuando la marina española fue sustituyendo el patrocinio de San Telmo por el de la Virgen del Carmen.
En Cataluña, antiguamente, las chicas rogaban con una pequeña oración a Nuestra Señora del Carmen para que les encontrara esposo rápidamente, daba igual su estatus económico, rico o pobre: «Mare de Déu del Carme, doneu-me un bon marit, sia pobre, sia ric, mentre vingui de seguit». También le tenían como patrona los ya desaparecidos serenos (policía nocturna) de Barcelona.