In tegenstelling tot de handboog is de kruisboog een relatief jong wapen. Van de handboog is bekend dat het ontstaanspunt ergens in het einde van het stenen tijdperk ligt. Over het ontstaanspunt van de kruisboog bestaat meer discussie. In verschillende artikelen wordt verondersteld dat de uitvinding dateert van ongeveer 600 jaar voor onze jaartelling. In andere artikelen wordt de beschaving van de Assyriërs (circa 2000 tot 612 voor Christus) genoemd als oorsprong van de kruisboog. Tastbare bewijzen hiervoor ontbreken echter.

Wat weten we dan wel over het ontstaan van de kruisboog? Er zijn twee theorieën die aannemelijk zijn. Volgens de eerste theorie is het ontstaan van de kruisboog terug te voeren op de oude Griekse beschaving. Ongeveer rond 400 voor Christus ontwikkelden de Grieken een katapult waarmee rotsblokken over grote afstand weggeslingerd konden worden. Na verloop van tijd ontwikkelde dit wapen zich tot een groot wapen, daarbij opvallende gelijkenis vertonend met een kruisboog. Er bestaan bewijzen dat de eerste exemplaren de omvang van een handkruisboog hadden.

In de tweede theorie ligt het ontstaanspunt in China. De bewijzen hiervoor worden gevormd door ondermeer de archeologische vondst van bronzen trekkermechanismen (het zogenaamde 'slot'), die op verschillende plaatsen in het hedendaagse China gevonden zijn. Uit oude Chinese verslagen blijkt zelfs dat het wapen (met succes) ingezet is bij conflicten rond 314 voor Christus.

Over het precieze ontstaanspunt van de kruisboog zijn de mening verdeeld, zo blijkt uit de verschillende theorieën die in omloop zijn. Het is echter wel bekend dat de kruisboog pas veel later populair werd: pas vanaf de elfde eeuw na Christus. Vanaf dat moment werd de kruisboog in grote hoeveelheden gemaakt en toegepast. Tot de opkomst van de eerste (efficiënte) vuurwapens, zo'n vijfhonderd jaar later, speelde de kruisboog een belangrijke rol in de oorlogsvoering.