Pochodził z rodziny o tradycjach saskich, która przybyła do Polski wraz z królem elekcyjnym Augustem II Wettinem. Jego dziadek – Józef Baum Ritter von Appelshofen – był naczelnikiem obwodu wielickiego. On też otrzymał „szlachectwo krajów dziedzicznych” w dniu 9 sierpnia 1777 r. Ojciec Józefa – Antoni, pełnił funkcję starosty bocheńskiego i radcy dworu. W grudniu 1811 r. uzyskał dziedziczny tytuł barona. Antoni był również pierwszym właścicielem posiadłości w Kopytówce i w Brzezince (cyrkuł wadowicki). Matka, Helena pochodziła z krakowskiego mieszczaństwa. Józef Baum skończył gimnazjum w Nowym Sączu, a następnie kształcił się z sukcesem w Akademii Wojskowej, dzięki której został oficerem armii cesarskiej. Od 1861 r. pełnił funkcję posła do lwowskiego Sejmu Krajowego. Wraz z wybuchem powstania styczniowego w Królestwie Polskim został członkiem „białego” Komitetu Narodowego dla Galicji Zachodniej. W tym czasie aktywnie organizował pomoc wojskową dla walczących z Rosjanami polskich powstańców. Za swoją działalność został aresztowany i osadzony w więzieniu we Lwowie. Uniewinniony w 1864 r. przez sąd wojskowy. W okresie autonomii galicyjskiej działał jako przewodniczący wadowickiej Rady Powiatowej. W latach kolejnych wybrano go posłem do wiedeńskiej Rady Państwa, w której od 1873 roku pełnił zaszczytną funkcję wiceprezesa Koła Polskiego.
Józef Baum dał się poznać jako lokalny działacz polityczny i społecznik. Interes miasta stał się mu szczególnie bliski wraz z objęciem stanowiska marszałka powiatu. Wielce prawdopodobne, że to właśnie dzięki jego ingerencji udało się w Wadowicach utworzyć w 1866 r. gimnazjum. W latach 70. XIX w. Baum zaangażował się osobiście na rzecz ustanowienia w Wadowicach siedziby Sądu Obwodowego. Korzystając ze swoich rozległych kontaktów w Wiedniu i we Lwowie czynił starania o uskutecznienie tego pomysłu. Niemałą rolę odegrały tutaj jego bliskie relacje z ministrem ds. Galicji Florianem Ziemiałkowskim, który przychylnie odniósł się do przedstawionego projektu. Poparcie Bauma przyniosło oczekiwany skutek. W październiku 1876 roku Prezydium c.k. Sądu Krajowego, za przyzwoleniem cesarza, wydało zgodę na utworzenie w Wadowicach siedziby Sądu Obwodowego. Jego inauguracja nastąpiła.
1 maja 1882 r. za zasługi wniesione w rozwój miasta Baum otrzymał Honorowe Obywatelstwo Wadowic. W latach 80. XIX stulecia rozpoczął w kręgach wiedeńskich agitacje na rzecz włączenia Wadowic do grona miast, którym nadane mają być oddzielne statuty. Zapoczątkowane przez Bauma zabiegi okazały się skuteczne i w marcu 1889 r. Wadowice zostały ustawowo zaliczone w poczet „trzydziestu większych miast Galicji”. Józef Baum zmarł nagle w Wiedniu w dniu 11 marca 1883 r. Jego ciało spoczęło w grobie rodzinnym w Marcyporebie koło Wadowic.