Sejarah perkeretaapian sama menyerupai sejarah alat transportasi umumnya yang diawali dengan inovasi roda. Mulanya dikenal kereta kuda yang hanya terdiri dari satu kereta (rangkaian), lalu dibuatlah kereta kuda yang menarik lebih dari satu rangkaian serta berjalan di jalur tertentu yang terbuat dari besi (rel) dan dinamakan sepur. Ini dipakai khususnya di kawasan pertambangan tempat terdapat lori yang dirangkaikan dan ditarik dengan tenaga kuda.
Penemuan Kereta api berawal dari bagan model pertama dari kereta uap Inggris, atau lokomotif jalan, pada tahun 1784 oleh
William Murdoch.
Kereta api berkembang sesudah
James Watt menemukan mesin uap, lalu didikembangkan oleh penemu lainnya seperti:
- Nicolas Cugnot menciptakan kendaraan beroda tiga berbahan bakar uap. Orang-orang menyebut kendaraan itu sebagai kuda besi.
- Richard Trevithick menciptakan mesin lokomotif yang dirangkaikan dengan kereta dan memanfaatkannya pada pertunjukan di depan masyarakat umum.
- George Stephenson menyempurnakan lokomotif yang memenangi perlombaan balap lokomotif dan dipakai di jalur Liverpool-Manchester. Waktu itu lokomotif uap yang dipakai berkonstruksi belalang. Penyempurnaan demi penyempurnaan dilakukan untuk mendapat lokomotif uap yang lebih efektif, berdaya besar, dan bisa menarik kereta lebih banyak.
Penemuan listrik oleh Michael Faraday menciptakan beberapa inovasi peralatan listrik yang diikuti inovasi motor listrik. Motor listrik lalu dipakai untuk membuat
trem listrik yang merupakan cikal bakal kereta api listrik. Kemudian Rudolf Diesel memunculkan kereta api bermesin diesel yang lebih bertenaga dan lebih efisien dibandingkan dengan lokomotif uap. Seiring dengan berkembangnya teknologi kelistrikan dan magnet yang lebih maju, dibuatlah kereta api magnet yang mempunyai kecepatan di atas kecepatan kereta api biasa. Jepang dalam waktu dekade 1960-an mengoperasikan KA Super Ekspress Shinkanzen dengan rute Tokyo-Osaka yang karenanya dikembangkan lagi sehingga menjangkau hampir seluruh Jepang. Kemudian Perancis mengoperasikan kereta api serupa dengan nama TGV.