早在成吉思汗建立蒙古帝國時期，蒙古騎兵與牛肉干有著不解之緣，“出入只飲馬乳，或宰羊為糧”。只要有供馬匹和畜群食用的水草，蒙古人就可以自給。一頭牛宰殺后，百十公斤重牛肉涼干后捻成沫后，只有十幾斤肉沫，裝袋后背在身上，只要有水便可沖飲。即使一時缺乏，還可以射獵作為補充。在作戰中，蒙古騎兵就是依馬匹和畜群來給養的，這在后勤上大大減少了軍隊行進的輜重。牛肉干在遠征作戰中起著很重要作用，所以素有牛肉干是蒙古軍隊行軍糧之說。

    草原牧民自古就有晾曬牛肉干的習俗，是招待貴客的食品。只有尊貴的客人來時才肯拿出烹制，關于牛肉干的來歷有這樣一個美麗的傳說。傳說很久以前，在美麗的科爾沁大草原有一條大河，名字叫霍林河，河源有一口甘甜的清泉名曰—–神泉，泉水常年不斷的噴涌著。這是一條清澈美麗的河流，養育了河流兩岸勤勞善良的蒙古族兒女，人們在這里繁衍生息、世代不絕。正當人們沐浴著陽光雨露，和風細雨的公元123年夏天，奇怪的事情發生了，清澈的河水不見了，牛羊沒有了飲水，兩岸的綠草枯黃了，仿佛寒冬已至。人們陷入到了極大的惶恐之中，謠言四起。有的說是有人得罪了天神，降罪于人間，有人說是得罪了火神，火神把水烤干了。勇敢的蒙古族小伙子巴特爾想拯救人們于水火，他告別了心愛的姑娘斯琴，帶上新鮮的牛肉和馬奶，沿河逆流而上，想要找出河水干涸的原因，巴特不停的走啊、走啊，經過了七七四十九天，終于走到了河源，發現了河水干涸的原因是神泉不再噴涌，巴特找到了當地的山神打聽原因，才知道是神泉被一條烏龍霸占了，為了奪回神泉，巴特手持蒙古彎刀毅然跳入神泉，直到烏龍的巢穴與烏龍大戰了九九八十一天，終于戰勝了烏龍，但由于體力耗盡，巴特終于還是倒下了，他的鮮血化成了汩汩清泉又從神泉噴涌而出，霍林河恢復了往日的寧靜，美麗的斯琴一直在等待心愛的巴特，但始終沒有等到，姑娘就沿河找到了神泉，那里沒有巴特的身影，只有噴涌的泉水和泉邊的那個她送給巴特的牛皮袋子，里面的牛肉已經變成了干干的一塊塊的，為了紀念巴特，她把他們帶回來永久的保存起來了，這就是后來的牛肉干。