合規風險，是指量化交易可能導致的內幕交易、操縱市場等違規行為的風險。
壹種不當交易行為是利用網絡技術優勢,在相關信息傳播到市場之前“搶先”交易。此類交易不僅有損公平,還可能涉嫌內幕交易。如“新聞聚合”的做法就涉嫌內幕交易。該算法通過在互聯網、新聞網站和社交媒體中搜索關鍵詞,並在幾毫秒內拋出大量訂單，交易的速度之快,通常會在相關信息還沒有廣泛傳播時已經完成。因此,國外監管當局正在討論此類交易是否違反了內幕交易規則。
另壹種不當交易行為為幌騙（Spoofing），是指在交易中通過反復的申報和撤單,誘使其他投資者不斷擡高申報價格,從而在短時間內迅速推高股價並從中獲利。2010年美國《多德—弗蘭克法案》明令禁止“幌騙”交易。2015年11月3日，美國芝加哥聯邦法院陪審團判決，高頻交易員MichaelCoscia被判定在商品交易欺詐和幌騙罪名成立。這是美國首宗引用反幌騙交易法判定幌騙罪的刑事案件。在量化交易系統設計過程中，應當避免單個或多個獨立的量化交易策略在特定交易產品上頻繁偏離當前市場價格進行不以成交為目的的申報、撤單，以防止發生幌騙行為。
第三種不當交易行為為自成交行為。通過控制不同賬號進行自買自賣的自成交行為會給市場傳遞錯誤信號，導致市場的價格與流動性並不能準確反映市場的真實水平。美國商品期貨委員會對2014年至2015年的交易數據進行了分析，研究發現公司間的自成交行為，包括場內交易與場外交易，在單獨的期貨合約的日內交易數據中占有很大比重。例如：在2015年2月，某個期貨合約發生在公司間的自成交行為占到了該合約全部交易量的10%，而若是以天來計算，這種自成交行為則占到了15%。其他合約的自成交行為占比僅為5%。
對上述不當行為的預防應通過設置交易系統內部程序來限制，以保護量化交易者在同時運行多個量化交易系統的情況下免於因合規風險而受到監管機構的處罰。