人工智能詐騙最重要的是技術含量。可以自動合成語音軟件模仿認識的人的聲音，打電話時用“聽不見”來安慰自己。AI撒了個臉，把視頻裏的男主角的臉改了，搞得“所見即所得”很尷尬。人類會欺騙甚至攻擊人工智能。
當攝像頭識別人臉時，人臉上附著了壹個特殊的圖案，使得人臉識別技術失效，無法識別或識別錯誤。人們玩撲克時，額頭和臉會被罰款。當然，機器不僅能識別機器，還能識別太多的帖子，這是媽媽無法識別的。
再比如，對貓的形象進行有效的惡意攻擊後，經過人為的攻擊，人工智能可能會對貓產生誤解。這些欺騙性的應用在自動駕駛中有非常危險的情況。攻擊汽車的視覺系統，在沒有駕駛員的情況下識別錯誤的交通標誌，會導致交通事故，不再遮擋傳感器。這種惡意攻擊來自哪裏？有些方法是通過讓圖像的像素值變成人眼看不見的微小變化來“分化”人工智能。
眾所周知，人工智能的深度學習技術已經成為警察的“空中之眼”。在某些情況下，準確識別面部照片的能力優於人類。但是在魯棒性和通用性方面存在缺陷。這個缺陷在不同的環境下會導致不同的問題。
互聯網銀行的客戶信用評分是利用深度學習技術計算出來的，銀行征信系統的人工智能深度學習技術對債權人的信用值非常敏感；買貸款的時候，黑客嘗試的次數很少。雖然交易金額很小，只有壹次轉賬，但是所有方法都能把土豪變成1分錢。
惡意攻擊因為同時滿足以上兩個因素而占據上風。財富壹夜之間出現。海軍通過土豪的匯款記錄更改信用評分。銀行的信用系統會立即將黑客識別為高價值和高價值客戶。