W roku 1876 wstąpił do szkoły oficerskiej Saint-Cyr a następnie do szkoły kawalerii w Saumur. Kiedy w maju 1881 roku wybuchło w Algierii powstanie Bou Amama, wziął udział w kampanii w południowym Oranie. Wsławił się tam bohaterską postawą, za co został odznaczony. W styczniu 1882 roku opuścił wojsko i udał się w podróż do Maroka. Owocem jego podróży była książki “Reconnaissance au Maroc”. Otrzymał za nią złoty medal Towarzystwa Geograficznego w Paryżu.

Po powrocie do Paryża zamieszkał u zamężnej siostry, nieopodal kościoła pod wezwaniem św. Augustyna. Podczas długich modlitw powtarzał modlitwę: „Boże mój, jeśli istniejesz, spraw, abym Cię poznał”. W kościele św. Augustyna spotkał ks. Huvelin, z którym zaczął prowadzić długie rozmowy religijne. Zaprzyjaźnili się i gdy Karol poprosił go o znalezienie kierownika duchowego, ten nakazał mu najpierw przystąpić do spowiedzi. Tak zaczęło się trwałe nawrócenie Karola, a ks. Huvelin pozostał jego kierownikiem duchowym aż do jego śmierci. Od tej pory Karol rozpoczął intensywne życie duchowe. Odbył pielgrzymkę do Ziemii Świętej, przebywał w klasztorze trapistów w Fontgombault, uczestniczył także w kilku rekolekcjach. W bazylice Montmartre 6 czerwca 1889 r. zawierzył swoje życie Najświętszemu Sercu Pana Jezusa. Wszystko to prowadziło do tego, że Karol postanowił iść drogą powołania zakonnego w ukryciu przed światem. W połowie stycznia 1890 r. pożegnał się z rodziną i wstąpił do trapistów w klasztorze Matki Bożej Śnieżnej w Masywie Centralnym, przyjmując imię zakonne Maria Alberyk (Marie-Albéric). 14 lutego 1894 r. został zwolniony ze ślubów prostych i złożył dwa śluby prywatne: czystości i nie posiadania niczego poza narzędziami potrzebnymi do pracy fizycznej. Został wysłany do klasztoru klarysek w Nazarecie, gdzie potrzebna była pomoc przy pracach w gospodarstwie. Był tam skromnym bratem. Zamieszkał w komórce na narzędzia i czuł się szczęśliwy. Za namową sióstr klarysek w 1901 r. przyjął święcenia kapłańskie.

Jako ksiądz przybył do Beni-Abbes w Algierii. Chciał cichego życia, by móc się nieustannie modlić. Zawsze jednak był otwarty na ludzkie problemy. Otaczał opieką niewolników, karmił ich i podtrzymywał na duchu. W tym czasie Karol de Foucauld pisał regułę swojej wymarzonej wspólnoty Małych Braci Jezusa, która powstała niestety dopiero po jego śmierci. W 1910 r. wysłał gotowe statuty do Rzymu, lecz odpowiedzi nigdy nie otrzymał. W czerwcu 1915 roku skończył po jedenastu latach prace nad słownikami. W 1916 r. wybuchła wojna między miejscowymi plemionami. 1 grudnia 1916 r. grupa uzbrojonych jeźdźców otoczyła fort, prawdopodobnie pilnujący go uzbrojony szesnastolatek wystrzelił ze strachu i przypadkowo zabił Karola. Pustelnia została splądrowana, a Najświętszy Sakrament wyrzucono w piasek pustyni. Gdy przybyli tam francuscy oficerowie, zobaczyli leżące obok Karola Ciało Jezusa. Jeden z nich ukląkł, podniósł Hostię i przyjął Komunię. Beatyfikacja Karola de Foucauld odbyła się 13 listopada 2005 roku w Rzymie. Kanonizacja odbędzie się 15 maja 2022 roku.