目前，中國的金融機構由四大國有商業銀行、幾家股份制銀行、政策性銀行和城市商業銀行組成，其中四大國有商業銀行在金融市場上占據壟斷和主導地位。
首先，從宏觀層面看，我國企業融資結構有兩個顯著特點:壹是以銀行貸款為代表的間接融資比例過高，風險不斷向銀行體系集中；二是全國性大型商業銀行處於相對壟斷地位，而中小商業銀行實力較弱，融資能力有限。以間接融資為主體的融資結構使得中小企業在外部融資時更註重向金融機構借款，而無法通過資本市場籌集資本；然而，商業銀行在貸款規模上的偏好，即大型銀行優先考慮大型企業，決定了貸款融資難以有效滿足中小企業的高風險和長期資金需求。
其次，由於大型銀行在貸款市場的高度壟斷、中小銀行經營機制的轉變以及長期忽視中小銀行的發展，我國中小金融機構沒有很好地服務中小企業。與大銀行相比，中小銀行為中小企業提供融資服務的優勢來自於雙方建立的長期穩定的合作關系。在合作型中小金融機構中，為了大家的共同利益，中小企業會形成自我監督，這往往比金融機構的監督更有效。
三是銀企之間缺乏長期合作關系。在我國，基於維護銀行信貸安全的所謂“銀企關系”或“信貸關系”壹直被忽視。只是在最近幾年，中國的銀行才開始重視與企業建立長期關系，並且中國的主辦銀行制度已由金融管理部門要求商業銀行開始實施。自我國實行主辦行制度以來，銀行壹直在爭取將大型企業作為其基本客戶，而沒有關註中小企業，中小企業也沒有辦法了解銀行信貸政策的偏好。銀行和中小企業之間缺乏建立長期關系的相互承諾。亞洲金融危機後，國內銀行開始重視信貸資產的安全性，銀行開始收緊對中小企業的貸款。銀行普遍不願意向中小企業放貸，這與銀行長期忽視銀企關系、缺乏識別中小企業質量的能力、缺乏保護信貸資產安全的技術方法密切相關。長期以來，商業銀行在忽視中小企業市場價值的同時，壹直強調中小企業普遍存在財務管理水平低、企業規模小、存續期短、企業信用差、擔保機制不完善等不利於銀行服務的問題。
（三）宏觀金融環境不完善使得中小企業缺乏制度支持和融資支持。
1.缺乏支持中小企業發展的金融政策和法律體系
自20世紀90年代以來，根據中小企業發展的具體需要，我國制定了許多涉及中小企業的專門法律法規，但仍存在壹些問題。主要表現在:壹是法律制度不健全。在法律層面，中國只有《中小企業促進法》，相關實施措施和辦法尚未出臺。第二，中國關於促進中小企業發展的政策仍然存在多重政策和相互矛盾的條款問題。
2.中小企業信用擔保體系不完善制約了其融資活動。
根據國際金融公司對中國民營企業的抽樣調查，未能滿足抵押要求和第三方擔保要求是未能獲得銀行貸款的最常見原因。由於政府擔保是國有和私營企業預算軟約束的主要原因，央行不鼓勵政府擔保和企業對企業擔保，因此提供抵押貸款成為幾乎所有公司獲得貸款的唯壹途徑。然而，許多中小企業無法為貸款提供足夠的抵押品。目前，我國已有30個省、自治區、直轄市開展了省級或市級中小企業信用擔保體系試點，在便利中小企業融資方面發揮了壹定作用，但仍存在不少問題。壹是擔保機構註冊資本質量不高。二是擔保體系不完善。三是具體運營管理模式的缺陷。擔保公司對申請擔保的公司審查嚴格，許多無法獲得銀行貸款的中小企業也無法從擔保公司獲得擔保。
3.中國信用體系的缺失導致中小企業融資渠道不暢。
壹個運轉良好的信用體系可以使貸款人有效評估借款人的風險，鼓勵借款人按時償還貸款，並有效促進金融同業之間的良性競爭。對於中小企業來說，信用制度使它們能夠積累信譽資本並以較少的抵押品獲得貸款。根據世界銀行的研究，擁有征信系統的國家的融資約束比沒有征信系統的國家低22%，中小企業獲得貸款的可能性高12%。
目前，由於各種原因，我國社會信用體系建設還存在許多問題:壹是信用立法還很不完善；二是信用數據開放機制尚未形成，政府相關部門建立的信用數據檔案系統相互封閉，造成信用數據部門、行業和地區的分割和相互壁壘。
4.轉軌時期的制度障礙和制度創新不足。
中國人民銀行2004年5月21日發布的《中國中小企業金融體系調查問卷》統計分析報告認為，我國中小企業融資渠道不暢既有政策原因，也有法律原因。既有銀行治理和業務發展的原因，也有中小企業自身管理和交易習慣的原因；有資本市場和金融市場發展滯後的原因，也有社會信用體系建設滯後的原因。但深層次的原因是體制障礙和轉軌時期的制度創新。
十六屆三中全會提出，積極推進資本市場改革開放和穩定發展。然而，目前直接融資渠道仍然狹窄，不能滿足經濟發展的需要。除了a股市場由於各種原因發展困難外，市場經濟發展所需的風險投資體系還不完善。其中，中小企業融資的體制性障礙較為突出。在現行的公司債券行政審批制度下，近年來中小企業發債幾乎為零，受到直接歧視。在股票市場上，壹批遵紀守法、經營狀況良好、社會發展需要但資本低於5000萬元的企業被直接排除在股票融資市場之外。
這說明我國中小企業融資難的原因是多方面的。中小企業融資問題表面上看是融資渠道狹窄，深層次原因是體制機制障礙。隨著我國市場化程度的提高和國內外經貿環境的變化，中小企業融資難問題將得到壹定程度的解決，同時也會出現新的情況和特點。因此，解決我國中小企業融資問題需要系統的對策。治標更重要。