O jeho životě toho není mnoho známo, o čem víme poměrně hodně, je jeho bohatá kariéra kriminálníka. V roce 1863 pod falešným jménem Max Grief spáchal krádež na univerzitě v Oxfordu, za kterou byl odsouzen k 10 měsícům ve vězení. O rok později je pro změnu v Cambridgi odsouzen na 3 měsíce. Ten stejný rok se objevuje v Tunbridge Wells pod jménem Count Sobieski. V prosinci je odsouzen k 8 měsícům vězení. V lednu 1866 je zproštěn obvinění z podvodu. 19. března ukradl jedné ženě z Maidstone hodinky. V dubnu spáchal několik podobných krádeží. V srpnu je zatčen a odsouzen na 7 let. Z vězení je propuštěn v květnu 1873. Netrvá to dlouho a Ostrog začne znovu krást. Je zatčen superintendantem Oswellem v Burton-on-Trent. Na policejní stanici ovšem zničehonic odkudsi vytáhne revolver a málem zastřelí policistu. Nakonec je přemožen a v lednu 1874 je odsouzen na 10 let. Z vězení je propuštěn v srpnu 1883. Za krádež džbánu v červenci 1887 je v září odsouzen k 6 měsícům nucených prací. V protokolu je poznamenáno, že Ostrog trpí šílenstvím. 10. března 1888 je propuštěn jako „vyléčený“. Ve vydání Police Gazette z října 1888 je Ostrog uveden jako „nebezpečný muž“. 18. listopadu je v Paříži odsouzen na 2 roky za krádež. V roce 1891 je krátce hospitalizován v blázinci v Surrey County. V roce 1894 je obviněn z jakési krádeže v Etonu. Další obvinění přichází v roce 1898 ve Woolwichi. Tentokrát se jedná o krádež knih. V roce 1900 je odsouzen za krádež mikroskopu v londýnské nemocnici ve Whitechapelu. Od té doby je Ostrog částečně ochrnutý. V roce 1904 je z vězení propuštěn a uchyluje se do Holbornu do křesťanské mise St. Giles. Od té doby už o Ostrogovi neexistují jakékoliv informace.

Jako o podezřelém v Rozparovačově případu se o Ostrogovi poprvé zmiňuje Melville Macnaghten ve svých pamětech z roku 1894. Píše v nich: „Michael Ostrog byl šílený ruský doktor, trestanec a nesporně i vražedný šílenec. Jak jsem se dozvěděl, byl velice často krutý k ženám a byl znám tím, že u sebe často nosil různé chirurgické nástroje. Byl to notorický kriminálník a místo jeho pobytu v době vražd ve Whitechapelu je dodnes nejasné. Stále ještě žije. Vše co o něm víme, se příliš neshoduje s obyčejným drobným zlodějíčkem, tak jak nám ho líčí policejní záznamy.“

Ostrog se také objevil v několika knihách zabývajících se případem Jacka Rozparovače jako jeden z podezřelých. Dokud ale o jeho životě nebudeme vědět více, těžko můžeme lépe posoudit, zdali byl Rozparovačem nebo jde o další falešnou stopu.