Siła i skuteczność działania zakonów rycerskich zależały w dużej mierze od dobrze zorganizowanego systemu władzy, sprawności zarządzania i dyscypliny opartej na bezwzględnym posłuszeństwie przełożonym. Hierarchia władzy u krzyżaków była taka sama jak w innych zakonach rycerskich tego czasu.

Na czele zakonu stał wielki mistrz, wybierany spośród braci-rycerzy dożywotnio. Wszyscy członkowie zakonu zobowiązani byli do bezwzględnego posłuszeństwa jego rozkazom, choć władza wielkiego mistrza — podobnie jak u templariuszy i joannitów — nie była absolutna. W najważniejszych sprawach zakonu — jak nadawanie urzędów i darowizny — musiał on kierować się postanowieniami kapituły generalnej, która zbierała się raz do roku (we wrześniu) w głównej siedzibie zakonu. W skład kapituły generalnej wchodzili urzędnicy zakonu i mistrzowie krajowi. Z czasem rozrost zakonu doprowadził do zebrań kapituł prowincjonalnych — w kapitule pruskiej nie uczestniczyli już wtedy mistrzowie innych prowincji. Dlatego w XV wieku praktycznie zakon rozpadł się na trzy grupy: niemiecką, pruską i inflancką. W roku 1524 mistrzowie krajowi Niemiec i Inflant usamodzielnili się zupełnie.

Najbliższymi współpracownikami wielkiego mistrza było pięciu dygnitarzy — głównych urzędników zakonu, wyznaczonych przez kapitułę generalną, która mogła też pozbawić ich urzędu. Grupa ta tworzyła rodzaj „rządu" zakonnego. Należeli do niej: wielki komtur — zastępca wielkiego mistrza i kierownik administracyjny oraz gospodarczy zakonu; wielki marszałek — zajmujący się sprawami wojskowymi; wielki szpitalnik — odpowiedzialny za działalność charytatywną zakonu, za sprawy medyczne i sanitarne; wielki szatny — zajmujący się odzieżą i częściowo ekwipunkiem; wielki skarbnik — zarządzający sprawami finansowymi i skarbcem zakonu. Stan skarbu krzyżackiego był tajemnicą dla braci zakonnych i osób spoza zakonu. Pieczołowicie przechowywano pieczęć zakonu: zamknięta była stale w skrzyni, do której klucze mieli wielki mistrz, wielki komtur i wielki skarbnik — otwierać tą skrzynię musieli razem. Po przeniesieniu (na początku XIV wieku) głównej siedziby zakonu do Prus utworzono nowe urzędy, których wymagało sprawne funkcjonowanie państwa zakonnego. Był to urząd mincerza zakonu i wielkiego szafarza. Pierwszy czuwał nad produkcją i obiegiem monety krzyżackiej, drugi kierował handlem zakonnym. Szafarzy było zresztą dwóch: jeden rezydował w Malborku, drugi w Królewcu.

Już w XIII wieku posiadłości zakonu, poza Królestwem Jerozolimskim, zorganizowane były w prowincje, zwane baliwatami. Zarządzali nimi komturowie krajowi. W roku 1280 zakon posiadał 13 baliwatów w Rzeszy (cesarstwie), 3 baliwaty we Włoszech i po jednym we Francji, Hiszpanii (krótki czas), Grecji — baliwat Romanii i Syrii — baliwat Armenii, obejmujący też posiadłości krzyżackie na Cyprze; a ponadto dwa kraje zakonne: Prusy i Inflanty. Baliwatami niemieckimi i częścią poza niemieckich posiadłości zakonnych zarządzał krajowy mistrz niemiecki; istniał też osobny urząd mistrza krajowego Prus (od XIV w. połączony z urzędem wielkiego mistrza) i mistrza krajowego Inflant. Siedzibą mistrza pruskiego był w XIII wieku Elbląg.

Baliwaty, czyli prowincje zakonne, dzieliły się z kolei na mniejsze jednostki — komturie (komendy), którymi zarządzali komturowie, rezydujący w domach zakonnych lub zamkach-klasztorach. Liczne komturie znajdowały się w baliwatach Rzeszy (cesarstwa). Baliwat frankoński na przykład miał 31 komend, baliwat czeski liczył co najmniej 17 komend, baliwat Turyngii — 15 komend, baliwat utrechcki — 14 komend, baliwat dolnosaski — 11 komend. Podobnie dzieliły się baliwaty włoskie: baliwat Sycylijski — 10 komend, baliwat Apulii 14 komend. Natomiast mniej liczny był baliwat we Francji — 6 komend, baliwat Hiszpanii — 3 komendy, istniejące zresztą krótko. W Szwecji była jedna komturia krzyżacka w Arsta. W Prusach i Inflantach komtur był jednocześnie zwierzchnikiem administracyjnym i wojskowym okręgu. Podlegał mu konwent, który tworzyli bracia-rycerze. Według „Statutów" krzyżackich powinno być w konwencie 13 braci, na wzór Chrystusa i apostołów. W praktyce konwenty były jednak mniej lub bardziej liczne.

W Królestwie Jerozolimskim, Prusach i Inflantach, a także w Grecji, krzyżacy działali jako zakon rycerski. Natomiast w pozostałych baliwatach i komturiach krzyżacy prowadzili działalność charytatywną i przede wszystkim działalność gospodarczą. Włoska komturia Corneto na przykład posiadała w XIII wieku gospodarstwo liczące ponad 400 sztuk bydła, ponad 100 koni, ponad 4000 owiec i kóz oraz 2000 świń. Szczególnie baliwaty niemieckie tworzyły potężną bazę gospodarczą i rezerwę sił ludzkich; z których to czerpano od 1230 roku przy podboju Prus.

Krzyżacy od roku 1198, gdy przejęli regułę zakonną templariuszy i joannitów, mieli dwie odrębne reguły: jedną — templariuszy — dla działalności militarnej, drugą — joannitów — obowiązującą ich w działalności szpitamiczej. Obie reguły już około 1200 roku miały wiele przepisów przestarzałych. Ponieważ nie nadawały się do stosowania w warunkach europejskich — zwłaszcza nad Bałtykiem — krzyżacy uzupełnili je nowymi przepisami, ustawami i rozporządzeniami kapituł generalnych. Wreszcie na polecenie Innocentego IV w roku 1244 opracowano ponownie wszystkie przepisy obowiązujące w zakonie krzyżackim. Tak powstały „Statuty braci domu niemieckiego Panny Marii w Jerozolimie". Prawdopodobnie tę nową kodyfikację reguły krzyżackiej przeprowadził legat papieski i protektor zakonu, Wilhelm z Modeny. „Statuty" zachowały układ reguły templariuszy dzieliły się na 3 części: samą regułę, ustawy i orzeczenia dotyczące zachowania braci, zwyczaje. Sporo miejsca zajmowały w „Statutach" przepisy dotyczące zachowania się na polu walki, dbałości o konia i broń. Inne przepisy dotyczyły praktyk religijnych, modłów i postów, zwyczajów zakonnych — jak milczenie, zamiana rzeczy osobistych, posiadanie własnych skrzyń. Przebywanie bez zgody przełożonych poza domem zakonnym, zabawy rycerskie i polowania — bez których średniowieczny rycerz nie wyobrażał sobie życia — były zabronione. Kłamstwo, jedzenie poza wyznaczonymi posiłkami, potwarze i oszczerstwa, bójki — wymagały pokuty. Kto zranił chrześcijanina lub zdradził tajemnice zakonu musiał pokutować przez rok — w tym czasie pokutujący brat-rycerz musiał żyć i pracować razem ze służącymi, 3 dni w tygodniu pościć o chlebie i wodzie, a każdej niedzieli poddać się biczowaniu. Niestety „Statuty", jak to często w życiu bywa, nie zawsze były przez krzyżaków przestrzegane.

Ubiorem zakonnym krzyżaków był biały płaszcz z naszytym po lewej stronie czarnym krzyżem wąsko-ramiennym — umieszczanym również na tarczach i chorągwiach. To dzięki niemu nazywano zakon rycerzy niemieckich krzyżakami. Białe płaszcze mieli prawo nosić tylko bracia-rycerze i kapelani — księża i klerycy. Bracia służebni musieli się zadowalać płaszczami szarymi.

Ten podział członków zakonu na trzy podstawowe grupy — rycerzy, kapelanów i braci służebnych — przejęli krzyżacy od templariuszy i joannitów. Odrębną grupę tworzyli w zakonie krzyżackim półbracia — słudzy lub dobrodzieje zakonu. Do zakonu krzyżackiego należały także siostry i półsiostry — pełniły one posługę przy chorych w prowadzonych przez zakon szpitalach i pracowały w gospodarstwach.

Grupą kierowniczą w zakonie krzyżackim byli rycerze. Oni obejmowali najważniejsze funkcje wielkich mistrzów, mistrzów krajowych, wielkich dygnitarzy, komturów; rządzili społecznością zakonną i decydowali o jej charakterze. Początkowo — jak się zdaje — rycerzami w zakonie byli również ludzie pochodzenia mieszczańskiego. Stare statuty krzyżackie — tak zwane „Prawa za morzem", uchwalone jeszcze przed 1289 rokiem — stwierdzają jednak, że ten kto nie jest urodzony w rodzie rycerskim, nie może być przyjęty do braci-rycerzy, chyba że wyjątkowo przyzwoli na to wielki mistrz. Takie wyjątki robiono dla synów rodzin patrycjuszy Norymbergii, Augsburga, Kolonii i innych wielkich miast niemieckich. Zresztą rody mieszczańskie spokrewnione były często z rodami feudalnymi i posiadały znaczne dobra ziemskie. Z mieszczańskiego rodu patrycjuszowskiego pochodził, między innymi wielki mistrz Karol z Trewiru (1311-1324). Był to jednak wyjątek.

Kiedy w Europie rozpowszechnił się obyczaj rycerski, przyjęli go również krzyżacy. Jeśli kandydat do zakonu nie posiadał jeszcze pasa rycerskiego, to podczas ceremonii przyjęcia uroczyście pasowano go na rycerza; tarczę zaś z herbem rodowym nowego członka zakonu zawieszano na ścianie kościoła. W końcu XIV wieku, od uchwały kapituły generalnej w 1382 r., nie nazywali się już rycerze zakonni braćmi lecz „panami". Ich herby rodowe umieszczane były na nagrobkach, malowano je na ścianach kaplic i kościołów krzyżackich, sal domów zakonnych. Seria malowideł herbowych z około 1400 roku zdobiła na przykład ściany jednej z sal domu wielkiego mistrza w Malborku. Herby rodowe przełożonych i braci konwentu znajdowały się też na malowidłach zamków krzyżackich w Lochstedt, Ragnecie i Świeciu. Od początku XV wieku rycerze zakonni musieli dowodzić swego szlacheckiego pochodzenia dostarczając władzom krzyżackim tak zwanego wywodu szlachectwa, czyli listy rycerskich przodków.

Krzyżacy mieli nad Bałtykiem własne, duże państwo. Byli więc zakonem atrakcyjnym dla młodych rycerzy niemieckich — zwłaszcza pochodzących z szeregowego rycerstwa — pozbawionych ponętnych perspektyw życiowych. Tutaj — w zakonie krzyżackim — mogli zrobić karierę wojskową i polityczną. Ci spośród nich, którzy wyróżnili się talentem wojskowym i zdolnościami organizacyjnymi, a byli przy tym inteligentni, ambitni i zdecydowani w działaniu, dochodzili często do wysokich godności w zakonie. Badacz niemiecki Aleksander B. E. von der Oelsnitz obliczył, że wśród pierwszych 35 wielkich mistrzów krzyżackich (1198-1497) dwóch było z rodów książęcych (Konrad z Turyngii i Luther z Brunszwiku), jedenastu z możnych rodów feudalnych i aż dwudziestu dwóch z rodów rycerskich, mało znanych i nie odgrywających żadnej roli politycznej.

Przy przyjmowaniu nowych członków do zakonu krzyżackiego zwracano uwagę na ich pochodzenie; mniej natomiast przejmowano się ich kwalifikacjami moralnymi. Władze krzyżackie uważały widocznie, że duch religijny zakonu, dyscyplina i kontrola zmieni ludzi. Podobnie jak templariusze i zakon rycerski Montjoye krzyżacy mogli, na mocy przywileju papieża Honoriusza III, przyjmować do zakonu ludzi wyklętych za rozbój, gwałty i zbrodnie. Papież Aleksander IV potwierdził w roku 1258 ten przywilej, udzielając jednocześnie kapłanom krzyżackim prawa rozgrzeszania tych braci-rycerzy, którzy przed przyjęciem płaszcza zakonnego popełnili morderstwo, zajmowali się rozbojem, napadali na chrześcijan, palili domy i kościoły. Kto więc chciał uniknąć kary za swe zbrodnie — jak pisał historyk niemiecki Hans Prutz — mógł znaleźć w zakonie krzyżackim bezpieczne schronienie, pod warunkiem posłuszeństwa rozkazom przełożonych i poddania się żelaznej dyscyplinie wojskowej. Nieposłusznych braci, nie przestrzegających reguły i poleceń przełożonych, karano surowo. Kto zaś opuścił szeregi krzyżaków, ścigany był przez zakon i władze kościelne. Dzięki temu wojsko zakonne składało się z żołnierzy twardych, zdyscyplinowanych, nie znających litości dla wroga.

Istniało prawo zwyczajowe — choć nigdzie w „Statutach" nie sformułowane — że członkami zakonu krzyżackiego mogli być tylko ludzie pochodzenia niemieckiego, których językiem macierzystym był niemiecki a więc mieszkańcy Niemiec, Szwajcarii, Lotaryngii, Niderlandów i Austrii. Piszący w XIV wieku opat Jan Longus z klasztoru Saint Bertin we Flandrii stwierdził krótko: Zakon ten jest zakonem niemieckim i zakonem Matki Boskiej niemieckiej, ponieważ nie przyjmują oni na brata nikogo, kto nie pochodzi z krajów języka niemieckiego. Wyjątkowo tylko przyjmowano do zakonu ludzi innych narodowości. Wyjątki robiono szczególnie dla członków domów monarszych i książęcych, aby poszerzyć wpływy polityczne zakonu, nie mówiąc już o posiadłościach ziemskich, jakie tacy bracia wnosili. Członkiem zakonu krzyżackiego na przykład był książę pomorski Racibor, który w roku 1276 oddał zakonowi swą dzielnicę — ziemię białogardzką. W XIV wieku zaś krzyżakiem był jeden z Piastów Śląskich, Henryk, syn Mikołaja księcia ziembickiego.

Były to jednak wypadki naprawdę bardzo rzadkie. Gdy w roku 1313 chciał wstąpić do zakonu krewniak biskupa płockiego, Dobrogost, wielki mistrz nie zgodził się na jego przyjęcie. Duży już wówczas i bogaty zakon krzyżacki był zgromadzeniem, zapewniającym synom niemieckich rodzin rycerskich dostatnie życie, karierę wojskową i polityczną. Strzeżono więc zazdrośnie dostępu do niego możnym panom i prostym rycerzom innych narodowości. W połowie XV wieku, kiedy komtur krajowy z Alten-Biesen przysłał do Prus jako kandydata na krzyżaka pewnego Wallończyka — pochodzącego z rodu hrabiów Namur, możnych panów cesarstwa — wielki mistrz Ludwik von Erlichshausen nie przyjął go do zakonu. Zachowane sprawozdania z wizytacji w XV wieku bogatych baliwatów śródziemnomorskich podają, że nawet tam braćmi zakonnymi byli wyłącznie Niemcy.

Drugą — obok rycerzy — grupą braci w zakonie krzyżackim byli kapelani — ludzie przeznaczeni do posług religijnych w samym zakonie i dla ludności państwa zakonnego. Z braci-kapelanów, którzy mogli być nieszlacheckiego pochodzenia, składały się kapituły biskupstw pruskich (z wyjątkiem warmińskiego), najczęściej oni też zostawali biskupami pruskimi. Czasem brat-kapelan wybierany był komturem w mniejszych domach niemieckich lub stawał się dyplomatą zakonnym. Na przykład dwaj bracia-kapelani Jan Reve — doktor prawa kanonicznego i Jan von Montabaur, także doktor prawa kanonicznego i komtur w Wiirzburgu, mianowani zostali w roku 1433 przedstawicielami zakonu na soborze w Bazylei. Jan Reve reprezentował gałąź inflancką krzyżaków, zaś Jan von Montabaur mistrza krajowego Niemiec.

Trzecią grupą w zakonie krzyżackim byli bracia służebni, często niskiego pochodzenia, którzy mogli składać śluby wieczyste lub śluby czasowe — tylko na okres służby wojskowej pod chorągwią zakonu. Początkowo bracia służebni (zwani „sariant", „sergeant") tworzyli oddziały jazdy lekkozbrojnej lub wojsk pomocniczych. Potem obejmowali też niższe funkcje administracyjne i gospodarcze, byli rzemieślnikami. Stopniowo bracia służebni połączyli się z półbraćmi. Półbratem zaś był sługa zakonu, zatrudniony w administracji i gospodarce krzyżackiej lub — dobrodziej zakonu. Ci ostatni półbracia zakonni byli ludźmi świeckimi. Korzystali z przywilejów i praw zakonu, choć nie obowiązywała ich ani reguła, ani śluby zakonne; podlegali jednak kierownictwu władz zakonnych. Jeśli byli dobroczyńcami zakonu mieli obowiązek popierania zakonu krzyżackiego i powiększania jego dóbr. Dzięki nim krzyżacy rozszerzali swe wpływy.

Na wzór joannitów przyjmowali krzyżacy do zakonu kobiety-siostry służebne. Opiekowały się one chorymi w hospicjach i wykonywały prace, do których — jak mówią „Statuty" zakonne — kobiety nadają się lepiej niż mężczyźni. Dla sióstr służebnych budowano osobne pomieszczenia przy hospicjach, a w zamkach krzyżackich — przy budynkach gospodarczych. Naturalnie, nie miały one wpływu na sprawy zakonu, który był bractwem męskim.

Od zakonu krzyżackiego była zależna ponadto duża grupa ludzi, jak chłopi z dóbr zakonnych i knechci, zatrudnieni w gospodarstwach klasztornych, stajniach, taborach. Za swą służbę knechci otrzymywali zapłatę, albo tylko wyżywienie i mieszkanie. Przepisy zabraniały im oddalać się bez pozwolenia z domu zakonnego, przesiadywać w karczmie i grać w kości. Karano ich surowiej niż braci czy półbraci: knecht który uderzył brata zakonnego albo zranił drugiego knechta, musiał przez rok służyć „w żelazie" (kajdanach) razem z niewolnikami. Ci zaś — głównie brańcy wojenni — byli pozbawieni wszelkich praw.

Zakon rycerzy niemieckich wzorował się na templariuszach i joannitach, posiadał jednak cechy, które w zasadniczy sposób różniły go od nich. Oba te zakony, choć dominował w nich romański element etniczny, nie przywiązywały takiej wagi do narodowego charakteru swych społeczności zakonnych, jak krzyżacy. Ponadto templariusze i joannici nie wiązali się z żadnymi dynastiami czy państwami. Przeciwnie, bardzo często prowadzili własną politykę ponadnarodową. Inaczej krzyżacy. Od samego początku istnienia zakonu wiązali się z polityką i interesami władców niemieckich. Mieli pomagać w realizacji planów politycznych dynastii Sztaufów na Bliskim Wschodzie i prowadzić ekspansję władców niemieckich w Europie. Już w 13 lat od założenia zakonu próbowali krzyżacy zająć Siedmiogród i utworzyć tu państwo zakonne. W 32 lata zaś od swego powstania rozpoczęli podbój Prus. Bliski Wschód dla krzyżaków był miejscem narodzin. Terenem ich właściwego działania była Europa. Dla templariuszy i joannitów — aż do upadku Królestwa Jerozolimskiego — głównym polem działania był i pozostał Wschód.