Ngựa: một loài thú có guốc, cổ có bờm, chân chỉ có một ngón, chạy nhanh, được nuôi để cưỡi, kéo xe.

Thành ngữ có nguồn gốc từ một điển tích: Tương truyền, ở nước Tề, có người tên Quản Trọng làm nghề nuôi ngựa nuôi voi, có thể nói chuyện được với ngựa, voi. Quản Trọng có chú ngựa đực rất đẹp mã, ngày ngày cưỡi nó đi khắp thiên hạ. Lần ấy, Quản Trọng đến nhà Thấp Bằng bàn chuyện đánh nước Cô Trúc. Trong khi hai người đang nói chuyện, con ngựa đực của Quản Trọng nghe thấy  tiếng hí không xa của con ngựa cái nhà Thấp Bằng. Con ngựa đực cũng hí chào lại. Chúng làm quen với nhau và trở nên thân thiết. Khi về đến nhà Quản Trọng, con ngựa đực nhớ bạn gái, nhân lúc được thả thong dong ở vườn thì tranh thủ đến thăm bạn. Mặc dù trên đường đi toàn cát trắng, không để lại dấu chân, con ngựa đực vẫn nhớ đường đến nhà Thấp Bằng. Khi gặp nhau, con ngựa cái ngạc nhiên, hỏi làm sao nhớ đường, con ngựa đực trả lời rằng ngựa thường sẽ quen đường cũ. Quản Trọng biết chuyện, không trách ngựa, mà còn khen nó có tình nghĩa. Sau này, Quản Trọng và Thấp Bằng dựng cờ theo Tề Hoàn Công đi đánh nước Cô Trúc. Khi từ trận mạc trở về đã là mùa đông, tuyết rơi trắng đất, khiến hai người bị quên đường và lạc vào rừng sâu. Quản Trọng nhớ ra con ngựa nhà mình quen đường cũ, liền nhờ nó dẫn cả đoàn quân thoát khỏi cảnh lưu lạc. 

Câu chuyện vốn ca ngợi con ngựa tài tình, có khả năng quen đường cũ. Tuy nhiên, khi vận dụng vào cuộc sống, ông cha ta đã mở rộng nghĩa và nói chệch đi, chỉ rằng thành ngữ này nói về người khó sửa lỗi sai của bản thân.