Muitos dos combatentes retiraram-se uma vez conquistada Jerusalém (incluindo os grandes senhores), mas um núcleo ficou (cálculos chegam a falar de algumas centenas de cavaleiros e um milhar de homens a pé). As cidades principais (como Antioquia, Edessa) tornarem-se capitais de principados e reinos (embora Jerusalém fosse de certo modo o centro político e religioso), com outras marcas a protegê-los.

O sistema feudal foi transplantado para oriente com algumas alterações: muitas vezes, em vez de receber feudos, os cavaleiros eram pagos com direitos ou rendas (modalidade que existia também na Europa). As cidades mercantis italianas tornaram-se fundamentais para a sobrevivência desses estados: permitiram a chegada de reforços e interceptar os movimentos das esquadras muçulmanas, tornando o Mediterrâneo novamente um mar navegável pelos ocidentais. Mas rapidamente os muçulmanos iriam reagir.

De qualquer modo, nos anos seguintes, com a euforia da vitória, mais voluntários seguiram para o Oriente. Os contingentes seguiam por nacionalidades, continuando pouco organizados. As motivações eram variáveis: se alguns pretendiam obter novos feudos, ou redimir-se das suas faltas, havia também aqueles que "apenas" pretendiam ganhar batalhas, cobrir-se de glória, bênçãos espirituais, e voltar para a sua terra.

Os governantes cruzados encontravam-se em grande desvantagem numérica em relação às populações muçulmanas que eles tentavam controlar. Assim, construíram castelos e contrataram tropas mercenárias para mantê-los sob controle. A cultura e a religião dos francos era muito estranha para cativar os residentes da região. Dos seguros castelos, os cruzados interceptavam cavaleiros árabes.

Por aproximadamente um século, os dois lados mantiveram um clássico conflito de guerrilha. Os cavaleiros francos eram muito fortes, mas lentos. Os árabes não aguentavam um ataque da cavalaria pesada, mas podiam cavalgar em círculo em volta dela, na esperança de incapacitar as unidades dos francos e fazer emboscadas no deserto. Os reinos cruzados localizavam-se, em sua maioria, no litoral, pelo qual eles podiam receber suprimentos e reforços, mas as constantes incursões e o infeliz populacho mostravam que eles não eram um sucesso econômico.

Ordens de monges cavaleiros foram formadas para lutar pelas terras sagradas. Os cavaleiros templários e hospitalários eram, em sua maioria, francos. Os cavaleiros teutônicos (Teutonicorum) eram germânicos. Esses eram os mais bravios e determinados dos cruzados, mas nunca eram suficientes para fazer a região ficar segura. Os reinos cruzados sobreviveram por um tempo, em parte porque aprenderam a negociar, conciliar e jogar os diferentes grupos árabes uns contra os outros.

Por volta do ano 1100, uma nova expedição partiu. Chegados a Constantinopla, levantaram-se discussões com os bizantinos que estavam fartos de ter aqueles vizinhos incómodos que pilhavam a terra, portavam-se de uma forma muito mais brutal em guerra, e ficavam com o que conquistavam (para além das diferenças culturais e religiosas).

Entretanto, os turcos estavam a unificar-se para tentar fazer face a estas ameaça. Evitando combates directos até ao último momento contra a cavalaria pesada cristã, usaram tácticas de emboscadas. Em Mersivan, esmagaram um dos exércitos cristãos (o dos lombardos e francos) que fora abandonado pelos seus líderes e cavaleiros (que fugiram). Estes foram severamente criticados pela fuga, assim como Alexio, imperador de Bizâncio, por não ter dado apoio.

Outro grupo, o exército de Nivernais, também foi destruído de forma similar (com fuga de líderes incluída). A expedição da Aquitânia portou-se melhor: ao menos os cavaleiros ficaram a combater e morrer juntamente com o povo. Alguns poucos conseguiram fugiram para Constantinopla. Três exércitos aniquilados em dois meses, enquanto que o pequeno exército de Jerusalém (com o membros da Primeira Cruzada) derrotava um exército egípcio.