In den Jahren 2008 bis 2013 fungierte Ostermayer als Staatssekretär im Bundeskanzleramt und deckte die Bereiche Medienangelegenheiten und Regierungskoordination ab. Vor seinem Wechsel ins Bundeskanzleramt war er Kabinettschef im Bundesministerium für Verkehr, Innovation und Technologie (BMVIT). Ab Mai 2004 bis zu seinem Wechsel ins BMVIT im Jahre 2007 war er Geschäftsführer des wohnfonds_wien (früher: Wiener Bodenbereitstellungs- und Stadterneuerungsfonds).

Josef Ostermayer wurde 1961 in Schattendorf im Burgenland geboren. Nach seiner Matura am Bundesrealgymnasium in Mattersburg begann Ostermayer das Studium der Rechtswissenschaften, das er 1985 abschloss. Ab dem Jahr 1987 arbeitete er als Rechtsberater und Rechtsvertreter bei der Mietervereinigung Österreichs und wurde 1988 deren leitender Jurist. Diese Funktion hatte er inne, bis er im Jahr 1994 als Angestellter des Wiener Bodenbereitstellungs- und Stadterneuerungsfonds ins Büro des amtsführenden Stadtrates für Wohnen, Wohnbau und Stadterneuerung wechselte. Josef Ostermayer ist verheiratet und hat zwei Kinder.