Do kolejnych starć z zakonem doszło w momencie zbliżenia Polski i Wielkiego Księstwa Litewskiego. Po śmierci Kazimierza Wielkiego, polski tron zgodnie z wcześniejszymi układami przejęła węgierska dynastia Andegawenów. Wkrótce królem Polski została 10-letnia Jadwiga w 1384 roku, której małopolscy panowie postanowili wybrać męża. Do tej pory była zaręczona z przedstawicielem dynastii Habsburgów, ale względy polityczne skłoniły do wybrania poganina Jogaiłę. W 1386 roku Polska i Litwa zawarły unię w Krewie, głównymi jej postanowieniami było m. in. zawarcie unii personalnej, ślub Jagiełły i Jadwigi oraz chrzest Litwy. Unia połączyła dwa państwa, które łączyło wspólne zagrożenie w postaci zakonu krzyżackiego, z resztą ochrzczony już Władysław zobligowany był do odzyskania utraconych przez Polskę ziem.
Krzyżakom niezwykle zależało na zajęciu Żmudzi, aby uzyskać bezpośrednie połączenie z zakonem w Inflantach. Wykorzystując spory między Witoldem a Władysławem, zakon zajął ten obszar. Na Żmudzi doszło do powstania antykrzyżackiego, ale dopiero drugi antykrzyżacki bunt doprowadził do wybuchu wojny w 1409 roku. Dodatkowo nowym wielkim mistrzem zakonu został Ulrich von Jungingen, który był zwolennikiem otwartego konfliktu z Polską i Litwą.
Wielka wojna z zakonem krzyżackim, rozpoczęła się w 1409 roku, zima tego roku była jedynie krótkim okresem przygotowań do rozpoczęcia regularnych walk. I tak Krzyżacy wraz ze swoim wsparciem z zachodu zebrali się pod Świeciem, a wojska polskie, litewskie, ruskie i tatarskie pod Czerwińskiem. 15 lipca 1410 roku rozegrała się jedna z największych bitew średniowiecznych i stanowi spektakularny sukces oręża polsko-litewskiego. Połączone siły Jagiełły i Witolda rozgromiły siły krzyżackie pod Grunwaldem. Po tym zwycięstwie natychmiast ruszono na stolicę zakonu – Malbork. Niestety wojska polsko-litewskie nie były przygotowane do oblegania zamku, z powodu dużej liczby konnicy w armii, braku pieniędzy i reakcji Zygmunta Luksemburskiego, króla Węgier i w przyszłości cesarza niemieckiego. W tych niekorzystnych okolicznościach postanowiono zawrzeć sojusz w Toruniu, Żmudź wróciła pod panowanie litewskie, podobnie ziemia dobrzyńska pod polskie. Co pokazuje, że nie wykorzystano całkowicie wielkiego zwycięstwa pod Grunwaldem, zmarnowano jego potencjał, już wtedy można było wywalczyć odzyskanie reszty straconych ziem. Jednakże dowiedziono, że działania dyplomatyczne i rozmowy nie mogły przynieść oczekiwanych rezultatów w konflikcie z zakonem, a dopiero otwarta walka w której zakon musiał przegrać w obliczu powstałego państwa polsko-litewskiego. Wielka wojna ponadto bardzo mocno zacieśniła unię dwóch państw, co potwierdzono w Horodle, dzięki tym okolicznościom to teraz Krzyżacy znajdowali się w kryzysie.
Atutem zakonu była rozsiania sieć dobrze ufortyfikowanych zamków, w których podczas wojny z Polską mogli schronić się z zapasami. Tak się stało w 1414, król polski postanowił pod namowami nuncjusza apostolskiego doszukiwać się roszczeń na soborze. Sobór w Konstancji, odbywający się po wielkiej wojnie, mógł jedynie utwierdzić w przekonaniu, że rozmowy z Krzyżakami są bezskuteczne. Na soborze dzięki działaniom słynnych polskich osobistości, takich jak Paweł Włodkowic i Zawisza Czarny, strona polska ideową sferę sporu wygrała, i Polska zyskała uznanie na arenie międzynarodowej. Ale na soborze nie podjęto żadnych konkretnych działań w sprawie krzyżackiej, a nawet papież Marcin V potwierdził wszystkie przywileje uzyskane przez krzyżaków, łącznie z tymi fałszywymi. Po soborze rozpoczęto kolejną wojnę z zakonem, którą Krzyżacy przeczekali w swoich zamkach. Dopiero następna wojna z lat 1431–1435 przyniosła większe działania, jednak mimo to wojna zakończyła się zawarciem pokoju wieczystego w Brześciu Kujawskim, w którym niestety nie zwrócono Pomorza Gdańskiego i ziemi chełmińskiej.
Mieszkańcy państwa zakonnego nie byli dobrze traktowani, ściągano wysokie podatki, a za nie płacenie groziło wiele brutalnych kar. Dlatego część z mieszkańców zawiązało Związek Jaszczurczy, którego celem była ochrona przed uciskiem zakonu. Związek Krzyżakom udało się rozbić, a przeżyli związkowcy zdecydowali się dołączyć do Związku Pruskiego powstałego w 1440 roku. Była to konfederacja stanów pruskich, która nauczona losem poprzedniej organizacji, zdecydowała się na uzyskanie pomocy z zewnątrz. Po wybuchu powstania antykrzyżackiego, związek wysłał delegację do Kazimierza Jagiellończyka, w celu namówienia władcy do udzielenia pomocy. Król niezwłocznie wydał akt inkorporacji Prus i Pomorza Gdańskiego w 1454 roku, który stał się początkiem wojny trzynastoletniej. Pospolite ruszenie szlachty, ruszyło jeszcze tego samego roku na ziemie pruskie, gdzie zostało rozbite w bitwie pod Chojnicami. Klęska była przełomem, ukazała słabość armii polskiej i inicjatywa przeszła na stronę krzyżacką, przez co król, podobnie jak wielki mistrz zakonu, był zmuszony do zatrudnienia wojsk zaciężnych. Jednak koszty wynajęcia i utrzymania świetnie wyszkolonych i uzbrojonych oddziałów były wysokie, dlatego miasta pruskie przychylne sprawie polskiej zorganizowały zbiórkę pieniędzy, tak aby pokryć część kosztów nowej armii.
Resztę zdobytych funduszy przeznaczono na wykupywanie twierdz krzyżackich z rąk najemnych załóg, którym nie płacono z powodu pustego skarbca. Tak zdobyto m. in. Malbork płacąc czeskiej załodze. W czasie wojny trzynastoletniej doszło nawet do walk na morzu Bałtyckim, połączone siły statków handlowych z Gdańska i Elbląga tworzące flotę kaperską, pokonują flotę zakonu na Zalewie Wiślanych. Ponadto wojska zaciężne wynajęte przez stronę polską pod dowództwem Piotra Dunina pokonały wojska zakonne w bitwie pod Świecinem w 1462 roku. Bitwa była kolejnym przełomem, tym razem to Polacy przejęli inicjatywę. 2 lata później rozpoczęto rokowania pokojowe, na których strona polska stawiała warunki zakonowi.
W 1466 roku zawarto II pokój toruński, najważniejszym jego postanowieniem jest odzyskanie po 158 latach Pomorza Gdańskiego i mniej ważnej, ale nadal istotnej ziemi chełmińskiej. Do Królestwa Polskiego przyłączono ponadto ziemię michałowską, część Powiśla z Elblągiem i stolicą zakon – Malborkiem. Wszystkie ziemie, które bezpośrednio przyłączono do Polski stały się Prusami Królewskimi. Pozostałe, uszczuplone ziemie krzyżackie z nową stolicą w Królewcu stały się polskim lennem, jako Prusy Zakonne. Odzyskanie wolnego dostępu do morza i Wisły, służącej jako spływ zboża do portów stało się podstawą gwałtownego rozwoju gospodarczego państwa polsko-litewskiego, to zwycięstwo dało podwaliny do stworzenia prawdziwego mocarstwa. Od tej chwili zakon krzyżacki, który niegdyś był największą potęgą w tym rejonie Europy Środkowo-wschodniej, teraz traci połowę swojego terytorium i staje się lennem nowej potęgi. Polska ostatecznie pokonała zakon krzyżacki i po ponad 250 latach udało się zniszczyć wielkie zagrożenie dla naszej państwowości.