Mens Rom stadig blot var én blandt mange italienske småstater, kæmpede byens krigere efter de klassiske principper i Middelhavsområdet, dvs. med lange spyd i tætte formationer.
Hærens hovedvåben blev først udskiftet i slutningen af 200-tallet f.Kr. efter mange blodige slag mod keltibererne, et keltisk folk, som var bosat på Den Iberiske Halvø og allieret med Roms dødsfjender Karthago.
Keltiberernes korte og spidse sværd havde vist sig ekstremt effektive i krigen.
Romerne tog ved lære og begyndte at erstatte soldaternes spyd med deres egen version af det spidse sværd.
Våbnet blev kaldt gladius – en latinsk omskrivning af kelternes ord for sværd.
Det havde en klinge på 45-70 cm og blev stadig brugt i en kompakt slagorden, hvor der ikke var plads til at svinge lange våben.
Den korte klinge og skarpe spids gjorde romernes gladius ideel til slagmarken.
Af samme årsag blev gladius hovedsageligt brugt som et stikvåben. Legionæren stødte hen over eller ved siden af sit store skjold mod sin fjendes maveregion, hvor et sår let kunne være dødeligt.
Det nye våbens effektivitet viste sig bl.a. imod Makedonien i slaget ved Cynoscephalae i 197 f.Kr.
Her blev makedonerne tvunget ud på ujævnt terræn, hvor deres 4 m lange spyd ikke kunne komme til deres ret, og blev hugget ned i hobetal af romerne.
Fra slutningen af 100-tallet e.Kr. blev gladius erstattet af et længere sværd kaldet spatha.