Sua história se inicia na Idade Média, mais precisamente no período após o Cisma Greco-Oriental, no qual houve o desdobramento do grupo das primitivas violas em “violas de braço” e “violas de pernas”. O instrumento surgiu no século XV, como fruto da evolução de outros instrumentos mais antigos e da necessidade em reproduzir as partes graves da música de uma forma mais nítida e perceptível. Nesse momento, o mesmo possuía apenas três cordas. A adoção de quatro cordas, o que lhe deu um efeito mais virtuoso, só se deu a partir do século XIX.

Entretanto, nesta época o instrumento não havia se popularizado. Para se ter uma idéia, muitas orquestras importantes, como a de J. S. Bach, por exemplo, não eram providas do mesmo. Tal fato se dava em razão das características físicas do contrabaixo, o que tornava seu transporte muito difícil.

Em 1951, o norte-americano Leo Fender resolveu o problema, criando o famoso baixo elétrico. Se o grande porte do instrumento se dava para a amplificação do som, Fender resolveu colocar uma pastilha eletromagnética que permitia a captação do mesmo. O uso do baixo elétrico e suas facilidades foram muito importantes para a popularização do jazz e do blues.