Rubinowicz urodził się w 1889 roku w austriacko-węgierskiej Bukowinie w rodzinie polskiej. W 1914 roku uzyskał stopień doktora na Uniwersytecie w Czerniowcach. W 1916 roku studiował u Sommerfelda w Monachium, gdzie został jego asystentem. Opracował reprezentację Maggie-Rubinowicza niezależnie od wersji Maggiego z 1888 roku. Jego forma reprezentacji dyfrakcyjnej jest obecnie powszechniej akceptowana. Przez całą swoją karierę wnosił wkład w teorię promieniowania, mechanikę kwantową i dyfrakcję. Publikował prace dotyczące rozszerzeń teorii atomowej Sommerfelda. Napisał książki na temat metody wielomianowej Sommerfelda oraz teorii dyfrakcji Kirchhoffa. Był profesorem na uniwersytetach w Lublanie, Lwowie i Warszawie. W latach 1949–1952 oraz 1961–1974 pełnił funkcję prezesa Polskiego Towarzystwa Fizycznego. Przekształcił całkę powierzchniową w całkę liniową dla pól skalarnych i elektromagnetycznych w dyfrakcji.