Po velmi dlouhou dobu se jezdilo na neosedlaných koních. Někdy se používala látka nebo pokrývka přehozená přes hřbet koně. Sedlo se objevilo teprve ve 3. století. Bylo to významné zlepšení při jízdě na koni, zejména v bitvách. Vynálezci sedla byli Sarmaté, mohutný íránský kmenový svaz sídlící na území kolem severního pobřeží Černého moře. Sarmaté vynikali v jezdectví a užívali koně v bitvách. Kromě vynálezu sedla jim bývá připisováno i první použití třmenů a ostruh.

Sarmaté byli kočovníky a uctívali boha ohně a často mu obětovali i koně. Jejich ženy mohly být inspirací pro řecké báje o Amazonkách, protože rovněž uměli dobře jezdit na koni a účastnily se válečných bitev.

Sedla pro velbloudy a slony byly vytvořena v Asii a v Africe přibližně ve stejnou dobu jako sedla na koně.

Sarmatská koňská sedla byla postupně vylepšována v Evropě vylepšována středověkými rytíři.