中國的三板市場起源于2000年的“股權代辦轉讓系統”。2000年時，為了解決主板市場退市公司與兩個已停止交易的法人股市市場公司的股份轉讓問題，由中國證券協會出面，新三板創新協調部分證券公司設了代辦股份轉讓系統，新三板創新即“三板”市場。由于新三板創新在“三板”中掛牌的股票品牌較少，且多數質量較低，新三板創新想要轉到主板上市難度極大，因此，很難吸引到投資者，三板市場也因此而多年受冷落。目前，三板市場包括了三類企業股：①歷史遺留問題公司，主要指從STAQ、新三板創新NET法人股市場轉過來的股票；②因為連年虧損、走投無路而被迫從主板上摘牌的企業；③2006年初，國家批準中關村科技園區的高科技企業在三板市場進行交易后掛牌的企業。前兩類企業目前被統稱為“老三板”，而第三類即為“新三板”的雛形。新三板的推出，是政府為了給改變中國資本市場這種柜臺交易過于落后的局面，同時也為了給更多的高科技成長型企業提供股份流動的機會，故于2006年1月16日在北京中關村科技園區內建立了新的股份轉讓系統，被正式稱為“新三板”層轉板。

雖然2006年年初才正式推出新三板，但實際上的策劃與籌備是在2003年年底便開始的，在正式推出時，新三板的全稱為“中關村科技園區非上市股份有限公司進入證券公司代辦股份轉讓系統進行股份轉讓試點”。新三板正式推出后的第七天，即2006年1月23日，中關村“世紀瑞爾”與“北京中科軟”兩家高新技術企業進入了代辦股份系統掛牌交易，這也標志著新三板市場的正式形成。在當時，新三板的各項內容都在探索階段，再加上科技園區、企業性質、融資功能以及投資者身份等多項限制與宣傳力度不足，且覆蓋面僅局限于北京中關村科技園一個特定區域內等多項原因，市場對新三板的認識度不足。這使得在新三板推出以后的長達六年的時間里，其掛牌企業數量都較少，這就導致了融資交易的不夠活躍。

為了進一步提升新三板服務中小企業的直接融資功能，同時也為了進一步完善多層次資本市場體系，2012年8月3日，中國證券會宣布，擴大非上市股份公司股份轉讓試點，并新三板創新相繼與北京、上海、天津、湖北四地的政府簽署了擴大新三板試點的合作備忘錄。至此，除中關村科技園區以外，上海張江高科技園區、天津濱海高新技術產業開發區、武漢東湖新技術開發區等四個高新技術園區的企業，皆可以在新三板掛牌報價轉讓。在試點期間，擴大園區后的2012年后半年成為新三板最活躍的一年。截至2012年12月31日，新三板創新共計207家中小企業掛牌新三板；僅2012年便有105家掛牌——新三板正式贏得了公眾的關注。