Urodził się 30 listopada 1913 r. w miejscowości Więzowno k. Koronowa (powiat bydgoski), ochrzczony został w parafii pw. Trójcy Świętej w Byszewie (diecezja chełmińska, obecnie pelplińska). Po ukończeniu w 1932 r. gimnazjum w Bydgoszczy wstąpił do Wyższego Seminarium Duchownego we Włocławku. 20 czerwca 1937 r. przyjął święcenia kapłańskie z rąk biskupa włocławskiego Karola Mieczysława Radońskiego i został skierowany do pracy jako wikariusz w parafii Krzywosądza. W tym samym czasie ks. Gruse uzyskał stopień magistra teologii na Uniwersytecie Lwowskim. W Krzywosądzy zastał go wybuch II wojny światowej.
Podczas okupacji ks. Gruse został wywieziony do obozu koncentracyjnego w Dachu, gdzie dzielił tragiczny los milionów Polaków - tysięcy kapłanów. Gdy wspominał ten straszny czas, niewiele mówił o sobie. Jednak piękne świadectwo o nim wydał w książce zatytułowanej Jasne promienie w Dachu bp Franciszek Korszyński, pisząc: "Ks. Gruse Feliks, wikariusz parafii Krzywosądza. Zawsze optymista, uprzejmy i grzeczny dla wszystkich". Bardzo wielu duchownych, na czele z bł. bp. Michałem Kozalem, już nigdy do Ojczyzny i na swoje placówki duszpasterskie nie powróciło. Ks. Gruse przeżył, jednak nie dane mu było powrócić do Polski zaraz po wyzwoleniu obozu. Przez 3 lata pozostał we Francji, gdzie pracował wśród Polaków, których losy wojenne rzuciły w różne strony - nie tylko Europy, ale i świata. Tam też zetknął się z nową formą duszpasterstwa, z tzw. ruchem księży robotników.
Do Polski powrócił w 1948 r. Przez 2 lata pracował jako prefekt i kapelan szpitala w Lipnie. 28 maja 1950 r. został administratorem parafii w Szpetalu Górnym. Długo był proboszczem w tej parafii, bo aż do 1966 r. Jednocześnie powierzano mu odpowiedzialne funkcje: był redaktorem Kroniki Diecezjalnej, wykładowcą historii w Niższym Seminarium Duchownym, wicedziekanem dekanatu włocławskiego I, radcą w Kurii Diecezjalnej, a od 1963 r. - dziekanem dekanatu włocławskiego I. Funkcję tę pełnił przez 25 lat, do czasu przejścia na emeryturę w 1988 r.
W 1966 r. ks. Gruse został proboszczem parafii pw. Najświętszego Zbawiciela we Włocławku. Musiał zmagać się z trudem uzyskania pozwolenia na budowę kościoła parafialnego. Starsze osoby dobrze pamiętają, jakiego rodzaju trudnościom trzeba było stawiać czoła. Nie pomagały prośby kierowane do władz administracyjnych, gdyż faktycznie decyzje wydawały inne gremia i urzędy. O pozwolenie na budowę zabiegał ówczesny biskup włocławski Jan Zaręba. W tym miejscu warto przytoczyć znamienne wydarzenie: gdy kolejne podania i prośby do miejscowych władz administracyjnych nie przynosiły pozytywnych skutków, ks. Gruse - proboszcz parafii - zorganizował akcję zbierania podpisów pod zbiorową petycją parafian (przy tymczasowej kaplicy znajdującej się przy ul. Jagiellońskiej). Petycję przesłano do władz centralnych, do Warszawy. Na reakcję nie trzeba było długo czekać. Wykorzystano pobyt ks. Gruse w szpitalu włocławskim, gdzie przebywał na badaniach kontrolnych, by rozpuścić plotkę (we Włocławku, a zwłaszcza w Górnym Szpetalu), że na jego ramieniu pielęgniarki "odkryły" litery "SS". Bp Jan Zaręba zareagował wtedy stanowczym komunikatem, skierowanym do wiernych. Po odczytaniu komunikatu w parafiach włocławskich sprawa upadła. Ks. Gruse boleśnie przeżył spreparowany przez władze oszczerczy fakt.
Władza diecezjalna doceniała jego pracę i poświęcenie. W 1967 r. został odznaczony przywilejem używania rokiety i mantoletu, w 1975 r. - mianowany kanonikiem honorowym Kapituły Katedralnej Włocławskiej. Gdy przeszedł na emeryturę, ówczesny Pasterz diecezji zachował dla niego tytuł honorowy dziekana dekanatu włocławskiego I. Jako emeryt cieszył się, że kościół pw. Najświętszego Zbawiciela został - mimo tylu przeciwności - wybudowany.
Ks. Feliks Gruse zmarł 12 listopada 1989 r., pogrzeb odbył się 16 listopada. Ciało pochowano na włocławskim cmentarzu w kwaterze kapłańskiej. Jego grób, odbiegający nieco wyglądem od pozostałych mogił, jest wyrazem specjalnego podziękowania za trud pracy duszpasterskiej, trwającej w parafii Najświętszego Zbawiciela 22 lata. Tak postanowili wierni tej parafii wraz z proboszczem, następcą ks. Gruse, ks. prał. Zbigniewem Szygendą.
Z obowiązku przypadło mi, wraz z przyjacielem Zmarłego, ks. inf. Witoldem Burą, ekonomem diecezjalnym, likwidować (jakże skromne) mieszkanie ks. Gruse, znajdujące się przy ul. Seminaryjnej. Przeżyłem to bardzo. Uświadomiłem sobie, jak wiele znaczył w życiu jego i wielu kapłanów fakt, że przeszli katorgę obozów koncentracyjnych, przeszli Dachau. Ks. Gruse umierał, nie mając majątku i nawet w pewnym opuszczeniu. Na to stać jednak chyba ludzi, którzy w swoim życiu doświadczyli wiele.
O jeszcze jednej rzeczy należy wspomnieć. Ks. Gruse miał niezwykły dar ujmowania problemów i spraw, zwłaszcza związanych z duszpasterstwem, w sposób niezwykle zwięzły, lapidarny. Do dziś księża włocławscy wspominają i cytują jego wypowiedzi. Bardzo głęboko zapisał się w serdecznej pamięci wiernych z parafii Najświętszego Zbawiciela, których duszpasterzem był przez długie i niełatwe lata.