小額貸款公司收取的客戶利息不能向對方開具增值稅專用發票。根據國家稅務總局的規定，單位與個人之間銷售貨物或者收取服務費用，向單位和個人開具增值稅發票。
小額貸款公司向個人收取信貸費用，應當以憑證形式出具憑證，憑證應當包括付款人和收費單位。