初，小牛隊的戰績急劇下滑，有兩次差壹點打破聯盟勝績最差的記錄。唯壹值得慶幸的是，該隊還擁有壹批比較年輕、很有潛質的球員，目前正處於上升期。
在小牛隊1980年落戶達拉斯之前，1967-1968賽季至1972-1973賽季，該市曾是美國籃球聯盟(ABA)叢林隊(Chaparrals)的主場。1973年3月26日，叢林隊在達拉斯主場迎戰卡羅萊納美洲獅隊，這是他們最後壹次參加ABA比賽，但到場的付費觀眾只有134人。第二個賽季，達拉斯叢林隊改名為聖安東尼奧馬刺隊。以後7年，達拉斯壹直沒有任何壹支職業籃球隊。
小牛隊1980-1981賽季首場比賽是在花費2700萬美元新建的Reunion體育館進行的。首發隊員包括阿蔔杜拉-吉拉尼、吉羅姆-懷特希德、湯姆-拉加德、吉奧夫-休斯頓和溫弗德-波伊尼斯。最終，達拉斯小牛隊以103-92擊敗了聖安東尼奧馬刺隊，到得開門紅。吉拉尼投中了球隊歷史上的第壹分。波伊尼斯獲得全隊最高分21分，拉加德搶得19分和14個籃板。
在接下來的5年內，小牛隊經過壹系列的交易，先後得到了9個首輪選秀權，壹批著名的球星相斷加入小牛隊，包括桑姆-帕金斯、德雷克-哈伯、羅伊-塔普利、以及德國人施拉姆夫。但真正改變小牛隊的，還是1981年選秀大會。在此次選秀大會上，達拉斯小牛隊挑選了三名球員，正是這三名球員，使小牛隊從壹支墊底球隊，發展為壹支頗具威脅的強隊。這三名球員分別是馬克-埃奎裏(狀元秀)、羅蘭多-布萊克曼(首輪第9位)和傑伊-文森特(首輪第24位)。
1982-1983賽季，小牛隊證明了他們是壹支在不斷上升的球隊。本賽季，他們取得了38勝、44負的成績，勝績比上壹賽季增加了10場。在NBA進步最快球隊中，列第3位。很多球隊不得不開始重視這個威脅越來越大的對手。