Członek zgromadzenia OO. Karmelitów Bosych, przeor wadowickiego klasztoru. Urodził się w 1854 r. w miejscowości Błażowa, w diecezji Przemyskiej. Śluby zakonne przyjął we Lwowie w 1878 r. W latach 1882-1894 przebywał w klasztorze w Czernej, gdzie od 1891 r. przez trzy lata był przeorem. Najprawdopodobniej to za jego wstawiennictwem wybrano Wadowice jako siedzibę nowego klasztoru. W 1895 r. pozostawał jednym z gorących orędowników pozostawienia klasztoru właśnie w Wadowicach. W historii miasta zapisało się jego gorące, patriotyczne przemówienie wygłoszone w Wadowicach 9 września 1914 r. do zgromadzonych w liczbie kilkuset członków Polskiego towarzystwa Gimnastycznego „Sokół” reprezentujących Wadowice oraz kilkanaście sąsiednich miejscowości, którzy wyruszyli stąd w kierunku Bochni, aby przyłączyć się do Legionów Polskich. W listopadzie 1914 r., w wyniku zagrożenia zajęcia Wadowic przez oddziały rosyjskie, Józef Rybka obawiając się denuncjacji i ewentualnych reperkusji za swoją patriotyczną postawę wyjechał do Grazu, do tamtejszego klasztoru. Do Wadowic powrócił w grudniu 1914 r., po zażegnaniu niebezpieczeństwa przejęcia miasta przez Rosjan. Do 1918 r. piastował godność przeora wadowickiego konwentu.
