Ta skromna początkowo fumdacja łacinników, działająca na obcym etnicznie i religijnie terenie, zmieniła całkowicie swój charakter po utworzeniu Królestwa Jerozolimskiego. Zależne początkowo od klasztoru Matki Boskiej Łacińskiej bractwo szpitalne usamodzielniło się szybko. Za rządów Gerarda, który stał na czele bractwa w okresie pierwszej krucjaty, przekształciło się ono w nową organizacją
religijną, z własnymi zasadami życia i odrębnymi zadaniami. Nowe bractwo przyjęło nazwą Szpitala św. Jana Chrzciciela. Okazało się organizacją bardzo użyteczną dla najeźdźców a Europy. Gerard i jego bracia znali dobrze kraj i mieszkańców, oddali wiać krzyżowcom cenne usługi przy podboju Palestyny.

Ważniejsza jeszcze od roli informatorów, przewodników i szpiegów była opieka nad pielgrzymami i przybyszami z Europy, którzy stanowili przecież cenne uzupełnienie ciągle szczupłych sił wojskowych Królestwa Jerozolimskiego. Szpitalnicy zapewniali im dach nad głową i opieką w wypadku choroby. Wszystko to sprawiło, że bractwo Szpitala św. Jana cieszyło się opieką i poparciem pierwszych władców Jerozolimy, papiestwa i feudalnego rycerstwa. Król Baldwin I wydzielał im zwykle
część łupów wojennych. Zaczęli oni również otrzymywać ziemskie posiadłości, które systematycznie się powiększały. Już za rządów Gerarda, który zmarł około 1119/1120 roku, Szpitalowi św. Jana w Jerozolimie podlegało kilka hospicjów i szpitali w Syrii oraz w Europie. Głównym zadaniem bractwa była ciągle jeszcze działalność charytatywna: opieka nad ubogimi, pielgrzymami i chorymi. 

Dalsze zmiany nastąpiły w bractwie za czasów mistrza Rajmunda du Puy, pochodzącego z francuskiej rodziny rycerskiej, który kierował Szpitalem blisko 40 lat (ok. 1120-1160). Bractwo szpitalników przekształciło się wówczas z luźnej organizacji charytatywno-religijnej w zakon. Co więcej, za wzorem templariuszy stali się joannici zakonem rycerskim. I obok zwykłych ślubów zakonnych składali jeszcze
dodatkowy — ślub nieustannej walki z niewiernymi. Jednocześnie prawie z templariuszami joannici uzyskiwali również przywileje prawne od papieży, które gwarantowały im swobodą w zarządzie wewnętrznym zakonu, uwalniały spod władzy patriarchy Jerozolimy, biskupów i innych przedstawicieli hierarchii kościelnej, a poddawały zakon jedynie zwierzchnictwu papieża. Począwszy od bulli
Anastazego IV z 1154 roku mnożyły się przywileje papieskie dla joannitów. Istniała nawet rywalizacja między templariuszami a joannitami o względy Rzymu; jeśli jeden zakon otrzymał jakiś przywilej papieski, drugi natychmiast prosił o to samo. Praktyczni joannici utrzymywali przy kurii papieskiej czasowych, a potem stałych prokuratorów, którzy pilnowali w Rzymie interesów zakonu i ciągle zabiegali o nowe przywileje lub zatwierdzenie starych. Papieże zaś nie odmawiali, zależało
im bowiem na tym, aby zakony rycerskie uczynić organizacjami potężnymi i suwerennymi, niezależnymi od lokalnych władz kościelnych. W ten sposób stawały się one oddziałami bojowymi Kościoła, zależnymi wyłącznie tylko od papieża. W razie potrzeby mogły być użyte do realizacji papieskich planów zwierzchności nad Europą i ekspansji chrześcijaństwa. Ale nie tylko te powody decydowały o
życzliwości papieży dla joannitów. Prócz tego działały tu również motywy bardziej konkretne i prozaiczne. Każdy przywilej był sowicie opłacany z bogatych szkatuł zakonnych, a ich rozdawnictwo przynosiło papieżom znaczne korzyści finansowe.

Organizacja zakonu joannitów była podobna do organizacji zakonu templariuszy. A schemat ten powtarza się zresztą u wszystkich zakonów rycerskich i stowarzyszeń, będących ich kontynuacją.
Na czele zakonu stał więc wielki mistrz, obierany spośród braci-rycerzy. Kierował on działalnością zakonu i przewodniczył obradom kapituły generalnej, która była najwyższym organem „ustawodawczym" i decydowała o najważniejszych sprawach społeczności zakonnej. Urząd wielkiego mistrza był stanowiskiem atrakcyjnym. Mistrz miał władzę i wpływy znacznie większe od
niejednego księcia czy króla, a sposobem życia też się niewiele od nich różnił. Miał bowiem pokaźny zastęp służby osobistej i dysponował bez ograniczeń własnymi zasobami pieniędzy, złota i srebra. Nie każdy jednak rycerz zakonny mógł ten urząd osiągnąć. Postanowienia kapituły generalnej z 1262 roku mówią wyraźnie, że wielkim mistrzem mógł być tylko człowiek „urodzony legalnie ze szlachetnych rodziców". Chętnych jednak było zawsze wielu. W tej społeczności ludzi twardych i zdecydowanych dochodziło często do sporów i bójek przy wyborach. Aby temu choć w części zapobiec, jedna z kapituł generalnych (1283) postanowiła, że w domu, gdzie odbywa się wybór wielkiego mistrza, nikt w
okresie elekcji nie może mieć przy sobie jakiejkolwiek broni ani jej przechowywać. Wielki mistrz miał do pomocy radę składającą się z kilku wielkich dygnitarzy, kierujących poszczególnymi dziedzinami działalności zakonnej. Należeli do nich: wielki komandor, marszałek, wielki szpitalnik, wielki szatny (drapier), wielki kanclerz, admirał, wielki przeor. Oczywiście, dygnitarzy przybywało w miarę
rozwoju zakonu i coraz większej aktywności joannitów, przede wszystkim militarnej. Szybki wzrost posiadłości zakonnych, powstawanie ufortyfikowanych domów-klasztorów w różnych częściach Europy (również w Polsce) spowodowały konieczność podziału zakonu na prowincje, zwane „językami" (W różnych okresach dziejów zakonu istniały następujące „języki": Prowansja, Owernia,
Francja, Wiochy, Aragon, Niemcy, Anglia, Kastylia i Portugalia.. Dzieliły się one z kolei na przeoraty, a te zaś na komandorie.)

Strój zakonny został ostatecznie ustalony przez papieża Aleksandra IV w 1259 roku i składał się z czarnego habitu oraz takiego samego koloru płaszcza z kapturem. Na habicie i płaszczu po lewej stronie naszyty był biały ośmiorożny krzyż. Krzyż ten, o charakterystycznym kształcie, był symbolem joannitów już za czasów mistrza Rajmunda du Puy. Zakon używał go w nie zmienionej formie przez
cały czas swego istnienia. Dziś ta forma krzyża nazywana jest krzyżem maltańskim.

Bracia-rycerze w czasie pokoju nosili czarny płaszcz z białym krzyżem. Statuty zakonne karały tych, którzy przechodząc przez miasto nosili płaszcz w ten sposób, aby widoczne były pod nim miecz i sztylet. Do walki natomiast rycerze nakładali na zbroję czerwoną tunikę z białym krzyżem zakonnym. Zwyczaj noszenia na zbrojach lekkich tunik, bez rękawów, z otworami na głowę i ramiona, był wówczas powszechny. Na Wschodzie było to koniecznością, tunika bowiem chroniła pancerz
przed nadmiernym nagrzaniem od promieni słonecznych. Statuty zakonne nakazywały tutaj umiar i prostotę. Zabraniano używania tkanin ze złotą lub srebrną nitką. Również wszelkie kosztowne ozdoby przy siodle, uprzęży lub na broni były surowo zakazane.

Podobnie jak członkowie innych zakonów rycerskich dzielili się joannici na trzy klasy mnichów, różniących się urodzeniem, pozycją w zakonie i zajęciami. Klasę pierwszą i najważniejszą tworzyli bracia-rycerze, szlachetnie urodzeni, przeznaczeni do rzemiosła wojennego i kierowania zakonem. Bracia służebni pełnili funkcje pomocnicze przy rycerzach, zajmowali się działalnością gospodarczą i charytatywną. Wreszcie bracia kapelani, duchowni różnych stopni, zajmowali się kultem religijnym,
opiekowali się chorymi i pielgrzymami.

Pierwszym celem zakonu była opieka nad ubogimi, pielgrzymami i chorymi. Stopniowo jednak coraz większego znaczenia zaczęła nabierać działalność militarna joannitów. Już w 1137 roku król Fulko z Anjou, jeden z najwybitniejszych władców na tronie jerozolimskim, dał zakonowi ważną strategicznie twierdzę nadgraniczną Gibelin, chroniącą królestwo od strony Egiptu. Powierzenie obrony granicy
joannitom dowodzi, że istniała w zakonie grupa doświadczonych rycerzy, którzy zajmowali się rzemiosłem wojennym. Ta grupa braci-rycerzy szybko zaczęła odgrywać najważniejszą w zakonie rolę. Rycerski zaś obyczaj i ekskluzywność stanowa coraz bardziej określały życie społeczności zakonnej i kształtowały postawę joannitów.

Uchwały kapituł generalnych — najwyższej władzy prawodawczej — pokazują, że zagadnienia wojskowe były przedmiotem szczególnej troski władz zakonu. Dokładne przepisy regulowały wszystkie sprawy związane z posiadaniem przez braci-rycerzy uzbrojenia, koni i służby. Dużo uwagi poświęcano też rekrutacji nowych członków do grupy braci-rycerzy. Coraz więcej warunków stawiano ubogim rycerzom, natomiast synom możnych rodzin feudalnych — przeciwnie — ułatwiano
wstęp do zakonu. Zredukowano dla nich okres próbny przed przyjęciem, dzieci zaś możnych, które według częstego wówczas zwyczaju wychowywane były w domach joannitów, mogły po osiągnięciu dojrzałości otrzymać płaszcz rycerza zakonu bez trudności i dalszych prób. Również warunek pochodzenia z legalnego łoża, stawiany przyjmowanym do zakonu rycerzom, nie dotyczył synów książąt i wielkich panów. Tylko wyższe urzędy w zakonie były dla bękartów niedostępne.