Parafia pw. św. Antoniego erygowana 25.12.1980 r. przez Biskupa płockiego Bogdana Sikorskiego. Powstała z parafii Parciaki. Pierwotnie wieś Olszewka należała do parafii Chorzele; od 23.11.1918 r. została włączona przez Abpa A. J. Nowowiejskiego do parafii Parciaki. Bullą „Totus Tuus Poloniae Populus” Papieża Jana Pawła II z 25.03.1992 r. parafia Olszewka została włączona do Diecezji łomżyńskiej z Diecezji płockiej.
Mieszkańcy Olszewki zbudowali kościół drewniany pw. Najświętszego Serca Jezusowego, który został pobłogosławiony 31.07.1922 r. przez Abpa A. J. Nowowiejskiego.
Liczba wiernych: 489