Jeho prvým pokusom bolo ustanovenie generálneho inšpektora ozbrojených síl, ktorého hlavnou úlohou malo byť zabezpečovanie dohľadu parlamentu nad stavom a činnosťou ozbrojených síl a realizáciou brannej politiky štátu. Dostal aj právomoc vykonávať inšpekčnú činnosť v oblasti rešpektovania ľudskej dôstojnosti a občianskych práv. Do zániku federácie sa ale parlament nedokázal dohodnúť na vhodnej osobe.
Otázka inštitútu ombudsmana sa otvorila aj pri príprave návrhu novej federálnej ústavy. Malo ísť o tzv. zástupcu spravodlivosti, ktorý mal vykonávať kontrolu nad dodržiavaním základných práv a slobôd garantovaných v Listine základných práv a slobôd.
Okrem iného by mal oprávnenie podávať návrhy a podnety k uskutočneniu nápravy a tiež právo zúčastniť sa pri konaní na všetkých federálnych štátnych orgánoch. Návrh na vytvorenie postu zástupcu spravodlivosti ale komisii pripravujúcej novelu ústavy neprešiel, tak sa napokon do verzii predloženej poslancom ani nedostal.
Po vzniku samostatnej SR sa začali práce na novej ústave. Tretí sektor sa vtedy usiloval, aby sa pri jej tvorbe nezabudlo na inštitút verejného ochrancu práv, ich iniciatíva však nenašla podporu. Ďalšie snahy o vytvorenie úradu ombudsmana stroskotali na predčasných voľbách v roku 1994. Obnovili sa až počas funkčného obdobia súčasnej vlády, ktorá sa rozhodla novelizovať ústavu. V rámci nej došlo k inštitucionalizácii verejného ochranu práv.
Prvý ombudsman bol zvolený vo Švédsku v roku 1809. Vznik tohto inštitútu bol však ovplyvnený islamským právnym systémom. Švédsky kráľ Karol XII. žil totiž niekoľko rokov v exile v Turecku, kde sa zoznámil so systémom štátnej správy a vybavovania sťažností súdnym kancelárom spravodlivosti. Ten v islame existoval už od čias 2. kalifa Omara v 7. storočí.
Prípad Švédska nasledovalo až v prvej polovici 20. storočia ako druhé Fínsko, ktoré vytvorilo inštitút ombudsmana v roku 1919. V súčasnosti pôsobí vo svete viac ako 100 inštitúcií ombudsmanského typu.
