Sytuację wewnętrzną komplikowały niepowodzenia kolejnych rządów na arenie międzynarodowej, dowodzące, że ustępliwość prowadzi jedynie do porażek oraz izolacji Polski i – co więcej – zagraża bezpieczeństwu państwa. Piłsudski nie planował zbrojnego obalenia rządu, walki jednak nie dało się uniknąć, tym bardziej że wojskowi popierający rząd dążyli do stłumienia wystąpienia Marszałka siłą. Wyrazem tej determinacji był rozkaz dowódcy wojsk rządowych w Warszawie gen. Tadeusza Rozwadowskiego: „Starać się dostać w swe ręce przywódców ruchu, nie oszczędzając ich życia”. Z konfrontacji tej zwycięsko wyszli piłsudczycy. Marszałek Piłsudski i jego zwolennicy uważali, że w Polsce należy przeprowadzić sanację, czyli uzdrowić sytuację w państwie, przeciwdziałając partyjniactwu i korupcji. Dlatego rządy Józefa Piłsudskiego i jego następców nazwano rządami sanacyjnymi. Piłsudczycy byli przekonani, że Polską powinna rządzić elita wywodząca się z tych, którzy wywalczyli niepodległość – a więc przede wszystkim piłsudczyków z ich przywódcą na czele. Opowiadali się za autorytarnym sposobem sprawowania władzy, którego istotą – w tym wypadku – było zastrzeżenie decyzji dotyczących najważniejszych spraw państwowych dla Piłsudskiego. Z czasem doprowadziło to do ograniczenia demokracji i praw obywatelskich, a samo określenie „sanacja” nabrało znaczenia negatywnego.

Po przejęciu władzy w maju 1926 r. Piłsudski objął stanowisko ministra spraw wojskowych, które sprawował do śmierci. 31 maja 1926 r. parlament – w pierwszej turze głosowania, bez żadnych nacisków piłsudczyków i zgodnie z konstytucją – wybrał go na prezydenta Rzeczypospolitej. Marszałek nie przyjął tej godności, uzasadniając to, podobnie jak wcześniej, ograniczonymi kompetencjami głowy państwa. Wskazał jednak innego kandydata – profesora Ignacego Mościckiego. Parlament wybrał go ostatecznie na to stanowisko. Pierwsze decyzje polityczne Piłsudskiego dotyczyły wzmocnienia władzy wykonawczej. 2 sierpnia 1926 r. Sejm dokonał nowelizacji konstytucji, uchwalając tzw. nowelę sierpniową. Prezydent otrzymał prawo wydawania dekretów z mocą ustawy w przerwach między kolejnymi sesjami Sejmu (oprócz spraw zastrzeżonych dla Sejmu, np. zmiany konstytucji) oraz prawo do rozwiązania parlamentu przed zakończeniem kadencji. Pierwszy dekret prezydenta dotyczył organizacji sił zbrojnych Rzeczypospolitej. Powołano Generalny Inspektorat Sił Zbrojnych, na którego czele stanął marszałek Piłsudski. W razie wybuchu wojny generalny inspektor sił zbrojnych miał zostać Naczelnym Wodzem WP. Podlegał prezydentowi i był niezależny od rządu i parlamentu. Zmiany wprowadzane przez piłsudczyków napotykały opór innych ugrupowań politycznych, reprezentowanych w Sejmie. Kiedy w październiku 1926 r. Piłsudski stanął na czele nowego rządu, konflikt przybrał na sile. Rząd rozpoczął walkę z parlamentem, stosując tzw. precedensy konstytucyjne. Polegały one na dosłownym, niezależnie od utrwalonej interpretacji i praktyki, przestrzeganiu niektórych zasad konstytucji. Celem tych działań było wskazanie wad obowiązującej konstytucji i uświadomienie społeczeństwu19 konieczności jej zmiany. Konflikt trwał także w Sejmie drugiej kadencji, zwołanym po wyborach 1928 r. Skłonił ugrupowania lewicowe i centrum do nawiązania bliskiej współpracy przeciw rządzącym piłsudczykom. We wrześniu 1929 r. powołały one porozumienie o nazwie Centrolew, które doprowadziło do ustąpienia rządu piłsudczyka Kazimierza Świtalskiego. Nowym premierem został Walery Sławek, jeden z najbliższych współpracowników marszałka Piłsudskiego, a skład i polityka gabinetu nie różniły się od poprzedniego. Żadna ze stron nie chciała ustąpić. Po kongresie Centrolewu w czerwcu 1930 r., na którym zapowiedziano „walkę z dyktaturą Józefa Piłsudskiego” i zażądano ustąpienia prezydenta Mościckiego, szefem rządu został sam Marszałek, a prezydent wkrótce rozwiązał parlament.

Zanim doszło do kolejnych wyborów, w nocy z 9 na 10 września 1930 r. władze aresztowały bez nakazu sądowego czołowych polityków i byłych posłów Centrolewu. Zostali oni uwięzieni w twierdzy w Brześciu nad Bugiem. Aresztowanych traktowano brutalnie – kilku zostało ciężko pobitych, wszystkich znieważano słownie i szykanowano. Aresztowania brzeskie wzbudziły protesty w społeczeństwie polskim. Symbolem zaostrzenia polityki władz było również utworzenie obozu w Berezie Kartuskiej. Stało się to po zabójstwie ministra spraw wewnętrznych Bronisława Pierackiego, dokonanym przez Organizację Ukraińskich Nacjonalistów. W Berezie Kartuskiej przetrzymywano osoby, które prowadziły działalność zagrażającą bezpieczeństwu państwa i dążyły do obalenia jego władz, czyli komunistów, działaczy OUN, a także przywódców ruchu narodowo- radykalnego. Proces zmian wewnętrznych w kraju, zainicjowanych przez marszałka Piłsudskiego i realizowanych przez jego zwolenników, zakończył się z chwilą wprowadzenia nowej konstytucji, którą prezydent Mościcki podpisał 23 kwietnia 1935 r. Ustawa zasadnicza znacząco wzmacniała – kosztem parlamentu – prerogatywy władzy wykonawczej, przede wszystkim prezydenta Rzeczypospolitej, odpowiedzialnego odtąd jedynie przed „Bogiem i historią”. Uchwalenie konstytucji, nazywanej potocznie kwietniową, zakończyło proces tworzenia w Polsce państwa autorytarnego. Ugrupowania polityczne opozycji straciły możliwość decydowania o sprawach państwowych, a podkreślenie w konstytucji prymatu państwa nad narodem i jednostką stało się po śmierci marszałka Piłsudskiego pretekstem do jeszcze większego ograniczenia praw obywatelskich przez jego politycznych następców. Po objęciu władzy przez Piłsudskiego w 1926 r. nie mniej ważne zmiany zaszły w polskiej polityce zagranicznej. Marszałek zaczął prowadzić znacznie bardziej stanowczą politykę zagraniczną niż wcześniejsze rządy. Na jej nowy kształt wpłynęła dodatkowo zmiana na stanowisku ministra spraw zagranicznych, którym w 1932 r. został Józef Beck. Z inspiracji marszałka Piłsudskiego prowadził on politykę równowagi między Niemcami a Związkiem Sowieckim (nazywaną również polityką równej odległości od Berlina i od Moskwy). Oznaczało to utrzymywanie poprawnych stosunków z obydwoma państwami i niezawieranie sojuszu z jednym przeciw drugiemu. 25 lipca 1932 r. Polska zawarła ze Związkiem Sowieckim układ o nieagresji, w którym strony zobowiązały się do pokojowego rozwiązywania konfliktów. 5 maja 1934 r. układ został przedłużony na dziesięć lat; równocześnie Moskwa po raz kolejny uznała wschodnią granicę Polski.

Jeżeli chodzi o stosunki polsko-niemieckie, przejęcie władzy przez nazistów w 1933 r. nie wróżyło zmian na lepsze. Adolf Hitler – nowy kanclerz Rzeszy – oświadczył, że sytuacja w „korytarzu”, jak Niemcy nazywali województwo pomorskie, jest nie do zniesienia i musi on zostać zwrócony Niemcom. Piłsudski zareagował stanowczo i natychmiast. Poseł polski w Berlinie Alfred Wysocki powiedział publicznie, że Polska jest w przededniu wojny z Niemcami, podobnie wypowiadał się Józef Beck. Wkrótce w Wilnie odbyła się wielka defilada Wojska Polskiego, którą przyjął marszałek Józef Piłsudski, do Francji zaś udali się z tajną misją jego wysłannicy, aby wysondować możliwość rozpoczęcia wojny prewencyjnej przeciw Niemcom Hitlera. Władze francuskie nie planowały jednak podjęcia zdecydowanych działań przeciw Niemcom. Działania Piłsudskiego przyniosły skutki – w maju 1933 r. Hitler zapowiedział Wysockiemu, że zamierza przestrzegać obowiązujących układów, a spory rozstrzygać polubownie. Prasa niemiecka zaprzestała ataków na Polskę. Po deklaracji Hitlera, że nie dąży do zmian granic w Europie, rozpoczęły się rozmowy na temat unormowania wzajemnych stosunków. 26 stycznia 1934 r. oba państwa podpisały deklarację o niestosowaniu przemocy. Piłsudski nie miał jednak złudzeń, że politykę równowagi będzie można prowadzić przez dłuższy czas. Marszałek przewidywał, że w ciągu kilku najbliższych lat potężni sąsiedzi staną się realnym zagrożeniem niepodległego bytu Polski.