Alta (das obere) California wurde zuerst 1542 vom spanischen Forscher Juan Rodriguez Cabrillo entdeckt. Obwohl es den Spaniern seit jener Zeit an bekannt war, war der Süden Alta Californias die äußerste Grenze der spanischen Kolonisierung. Es dauerte über 200 Jahren, bevor sie ein Interesse an Aufbaukolonien in Alta California zeigten. Im Jahr 1769 schickten die Spanier schließlich eine Expedition aus New Spain (dem heutigen Mexiko) los, um Alta California in Besitz zu nehmen. Der Plan war, Missionen und Presidios (Forts) bei San Diego und Monterey einzurichten, um das Territorium für Spanien zu besiedeln und zu missionieren. Die Expedition fand unter Leitung des Franziskaner-Padres Junipero Serra, der 1767 zum Missionspräsident von Upper und Lower California ernannt wurde, und Gouverneur Don Gaspar De Portolá statt. Zu Fuß zogen sie von Loreto nach San Diego, wo sie am 16. Juli 1769 die erste Mission und den Presidio errichteten.
Mit dem Schiff angereist versammelten sich am 3. Juni 1770 die vom Pater Serra geführten Missionare und die zu Fuß anmarschierten Soldaten von De Portolá bei der Bucht von Monterey, um einer formalen Zeremonie der Aufstellung des Heiligen Kreuzes beizuwohnen, welches die Errichtung der zweiten Mission kennzeichnen würde, die Mission San Carlos Borromeo genannt werden sollte. Die Mission befand sich an der heutigen Presidio Kapelle.
Doch einige Soldaten des Presidios behandelten die einheimischen Indianer schlecht. Dies hielt viele von Padre Serra fern, der dadurch in seiner Missionstätigkeit stark beeinträchtigt wurde. Die Indianer meinten, Padre Serra wäre Teil des Presidios, also der Militärverwaltung. Deshalb verlegte Serra am 24. August 1771 die Mission von Monterey auf die andere Seite der Halbinsel zu ihrem heutigen Standort in Carmel. Dies platzierte sie außerdem näher an eine Frischwasserquelle (Carmel River) und auf besseres Land für die landwirtschaftliche Selbstversorgung. Die frühen Jahre in Carmel waren hart. Die erste Kirche und Wohnungen wurden aus Holz hergestellt und mit Holzpalisaden eingezäunt. Die Padres waren zumeist auf Versorgungslieferungen von Schiffen aus Mexiko abhängig, welche die Monterey-Bucht jedoch nicht sehr oft erreichten. So teilten die Indianer die wenigen Nahrungsmittel und Vorräte, die sie hatten. Im Laufe der Zeit konnten die Padres ihre eigenen Ernten einfahren, was die Nahrungsmittelversorgung aller enorm verbesserte. Die Indianer halfen bei der landwirtschaftlichen Arbeit. Zwischen 1770 und 1836 wurden über 4.000 von ihnen getauft. Auch wurden die Holzgebäude nun durch Adobe-Lehmziegel ersetzt. Carmel wurde das Hauptquartier für Padre Serra und aller Missionen. Von hier aus überwachte er den Bau von sieben weiteren Missionen in Kalifornien, hier arbeitete er mit seinen indianischen Freunden bis zu seinem Tod. Am 28. August 1784 starb Padre Serra in der Carmel Mission an den Folgen eines Schlangenbisses im Alter von 70 Jahren. Wenn man die Mission heute besucht kann man die Kammer sehen, in der er schlief und wo er starb.
Nach Padre Serras Tod führte Padre Fermín Francisco de Lasuén seine Arbeit weiter. Es war Lasuén, der die Steinkirche (Basilika) erbauen ließ, die heute noch existiert. Vier Jahre dauerte der Bau der Basilika bis sie am Weihnachtsabend 1797 eingeweiht wurde. Man errichtete sie auf dem Standort der ursprünglichen Adobe-Kirche, aus in den nahe gelegenen Santa Lucia Mountains abgebauten Steinen. Es war überhaupt die erste kalifornische Missionskirche aus Stein. Später sollten nur noch die Missionskirchen in San Juan Capistrano und Santa Barbara aus dem gleichen Material errichtet werden; die achtzehn anderen Missionen wurden aus Adobe gebaut. Die heute vorhandenen Gebäude der Mission wurden auf den Fundamenten der von Padre Lasuén gebauten Häuser wieder errichtet. Dadurch ist das Layout der Mission heute genau so, wie es sich in den frühen 1800er Jahren darstellte. Die Carmel-Mission gedieh unter Padre Lasuén. 1794 betrug die indianische Bevölkerung 927 Personen. Am 28. Juni 1803 starb Fermín Lasuén und wurde neben Junipero Serra beigesetzt.
1821 erreichte Mexiko die Unabhängigkeit von Spanien. Kalifornien wurde ein Teil von Mexiko, die Mission wuchs weiter. Zwischen 1817 und 1822 wurde die Basilika äußerlich stark umgestaltet. Der heutige Glockenturm entstand und ersetzte den bis dahin vorhandenen einfachen Wandaufbau mit Bögen, an denen die Glocken aufgehängt waren. Dann schloss im Jahre 1834 die mexikanische Regierung die Mission und übernahm das Missionsland. Obwohl die Regierung zusagte, das Missionsland den Indianern zu übergeben, bekamen die meisten von ihnen kein Land. Stattdessen wurde es den neuen nach Kalifornien kommenden Siedlern verkauft.
Die Indianer wurden gezwungen, die Mission zu verlassen. Viele von ihnen kehrten zu ihrer alten Lebensweise zurück oder arbeiteten für die neuen Siedler als Ranchhelfer oder Diener. Auch die Padres mussten gehen. Einige von ihnen kehrten nach Mexiko zurück oder wurden Priester in den Kirchen der neuen Städte von Kalifornien. Padre José Reál, seit 1833 Missionsleiter in Carmel, zog nach Monterey und hielt nur noch gelegentlich Messen in der Carmel Mission.
Traurige Zeiten standen bevor. Die Indianerpopulation war bereits bis 1823 aufgrund fehlender Immunität gegenüber europäischen Krankheiten auf 381 gesunken. Nachdem die verbliebenen Indianer und Padres gegangen waren, wurden die Gebäude Opfer von Vandalismus und Zerfall. Der Innenhof, der aus Adobeziegeln gebaut wurde, verwandelte sich zu einem Lehmhaufen. Die Basilika war nur noch eine traurige Erinnerung an die Vergangenheit. Ihr Dach war eingestürzt, die Verzierungen entfernt; was blieb war eine Ruine.
1846 errang Kalifornien seine Unabhängigkeit von Mexiko, um zunächst ein unabhängiges Land namens Republik von Kalifornien zu werden. 1848 wurde es offiziell ein Territorium der Vereinigten Staaten und 1850 der einunddreißigste Staat der Union. Die Mission blieb weiterhin eine Ruine. Dann übergab sie am 19. Oktober 1859 die US-Regierung unter Präsident James Buchanan nach einer Entscheidung der US Lands Commission zurück an den Bischof der Katholischen Kirche, Joseph Sadoc Alemany.
Die Restauration der Mission begann 1884 unter Padre Angel Casanova und dauert bis heute fort. Holzdächer wurden angebracht, was zwar die Bauwerke vor dem weiteren Verfall schützte, aber nicht mit dem ursprünglichen Baustil übereinstimmte. 1924 wurde nach dreijähriger Arbeit der erste Raum fertiggestellt, die Mora Chapel. Dieser erhielt ein Denkmal an Junipero Serra und seine Mitstreiter, erschaffen vom lokalen Künstler Jo Mora. 1933 fing, nachdem der Bischof von Monterey-Fresno, Philip Scher, die Mission zu einer unabhängigen Pfarrei erhoben hatte, schließlich die intensive Phase der Wiederherstellung an. Harry Downie, ein vielseitig talentierter Kunsthandwerker, wurde Kurator des Restaurierungsprojekts. Auf Grund Geldmangels startete die Arbeit zunächst nur langsam. Ausgrabung der Ruinen und das Studium von alten Dokumenten, Skizzen und Fotos war notwendig um Pläne für den Aufbau anzufertigen. Die Arbeiten begannen an den Unterkünften der Padres, die heute Artefakte der frühen Mission beherbergen. Downie gelang es, diese von vielen verstreuten Orten zusammenzutragen. Es ist heute eine der herausragendsten Sammlungen seiner Art in Kalifornien und ist im Museum ausgestellt.
Im Jahr 1936 benötigte das Holzdach der Kirche, das zuerst 1884 repariert worden war, eine dringende Sanierung. Durch verschiedene Maßnahmen konnten die Geldmittel erhöht werden, und die Steinkirche konnte im Großen und Ganzen zur der Schönheit wiederhergestellt werden, die sie in den frühen Missionstagen hatte.
1941 wurde ein Gebäude auf der Ostseite des Innenhofs restauriert. Dieses Gebäude diente ursprünglich als Unterkunft der Soldaten. Heute ist es das Verwaltungsbüro und Pfarrhaus. Das ursprüngliche Gebäude auf der Südseite des Innenhofs, von dem nichts außer dem Fundament und ein paar zusammengefallene Wände übriggeblieben waren, wurde ab 1943 rekonstruiert. Hier wohnten ursprünglich die indianischen Kinder. Es beherbergt heute die Klassenzimmer der Junipero Serra-Grundschule.
1946 wurden die Überreste der ursprünglichen Küche und der Schmiedewerkstatt auf der Ostseite fertiggestellt, die heute als Kapelle genutzt werden. Dieses Gebäude umfasst drei Seiten des Innenhofs. Um die Restaurierung des Innenhofs abzuschließen wurde 1950 das Westseitengebäude, das ursprünglich Werkstätten und den Wohnsitz für die alleinstehenden Indianerinnen beherbergte, fertiggestellt. Heute befinden sich hierin ebenfalls Klassenzimmer der Junipero Serra-Grundschule.
Dank der Arbeit von Harry Downie und jenen, die ihm folgten, präsentiert sich die Mission heute so, wie sie einst war. 1961 wurde sie von Papst Johannes XXIII. in Anerkennung Junipero Serras heroischen Werks und der architektonischen Besonderheit des Bauwerks mit dem maurischen Turm und dem Paraboldach als Basilika designiert. Im Eingang der Basilika findet man die Insignien, die diese Kirche als solche auszeichnen: der Pavilion (papal umbrella) und das tintinabulum (Basilikaglocke). Am 25. September 1988 wurde Junipero Serra von Papst Johannes Paul II. selig gesprochen. Ein Jahr zuvor im September 1987 besuchte der Papst auf seiner USA-Reise die Carmel Mission. Sie ist heute eine der beliebtesten Pilgerstätten in den Vereinigten Staaten.
