سال‌ها نمونه درسی کلاهبرداری دیپ‌فیک در بانک و صنعت مالی، پرونده‌ای از سال ۲۰۲۴ بود: کارمند شرکت مهندسی Arup پس از یک تماس تصویری با مدیرانی که با دیپ‌فیک ساخته شده بودند، ۲۵ میلیون دلار منتقل کرد. در پاییز ۲۰۲۶ صنعت یک پرونده مرجع تازه پیدا کرد و این بار قربانی خودِ یک بانک بود. به گزارش رویترز، کلاهبردارانی که با هوش مصنوعی خود را جای مدیران ارشد جا زده بودند، ۹۵ میلیون یورو از Fideuram، بازوی بانکداری خصوصی بزرگ‌ترین بانک ایتالیا یعنی Intesa Sanpaolo، بردند. ظرف چند هفته، دادستانی میلان دو پرونده مشابه دیگر را هم بررسی می‌کرد، پژوهشگران شواهد تازه‌ای منتشر کردند که نشان می‌دهد شبیه‌سازی صدا با هوش مصنوعی (Voice Cloning) در خطوط تلفن واقعی چطور از سد تشخیص می‌گذرد و بانک‌های هنگ‌کنگ نتایج آزمون‌های تشخیص دیپ‌فیک را ارائه کردند. این رویدادها در کنار هم کمتر درباره هوش مصنوعی زیرک‌اند و بیشتر درباره اینکه بانک‌ها چطور به جابه‌جایی پول مجوز می‌دهند.
در پرونده Fideuram چه اتفاقی افتاد
رویترز در ۳ مهر ۱۴۰۵ (۲۵ سپتامبر ۲۰۲۶) به نقل از دو منبع گزارش داد این طرح از فوریه ۲۰۲۶ آغاز شد. رئیس وقت هیئت‌مدیره Fideuram پیامی در واتس‌اپ دریافت کرد که ظاهراً از مدیرعامل Intesa Sanpaolo بود و برای یک تراکنش خارجی درخواست کمک فوری داشت. سپس تماسی تلفنی که ظاهراً از سوی یکی از شرکای ارشد یک مؤسسه حقوقی سرشناس بود، این دستور را تأیید کرد؛ به گفته منابع، تماس‌گیرندگان با هوش مصنوعی صدای آن وکیل را بازسازی کرده بودند. رئیس هیئت‌مدیره با این باور که درخواست واقعی است، به واحد مالی دستور داد مجموعه‌ای از انتقال‌ها را به حساب‌هایی در خارج، عمدتاً در چین و هنگ‌کنگ، انجام دهد.
دو جزئیات برای هر کسی که کنترل‌ها را طراحی می‌کند مهم است:
- تشخیص سریع، خسارت را محدود کرد. Fideuram به‌سرعت ناهنجاری انتقال‌ها را تشخیص داد و به بانک‌ها و مقام‌های چند کشور هشدار داد. حدود ۵۳ میلیون یورو با همکاری مقام‌های چین، پرتغال و ایتالیا بازگردانده شد.
- آنچه از دست رفت، به‌سختی قابل ردیابی شد. به گفته منابع، حدود ۳۶ میلیون یورو باقی‌مانده از شبکه‌ای از حساب‌های خارجی عبور کرد و به رمزارز تبدیل شد.
همان روز خبرگزاری ANSA ایتالیا گزارش داد دادستانی میلان دو کلاهبرداری ادعایی دیگر علیه مؤسسه‌های اعتباری را بررسی می‌کند که با طرح‌های مشابه مبتنی بر پیام، ایمیل، هوش مصنوعی و شبیه‌سازی صدا انجام شده‌اند. در یکی، مدیر یک بانک در اردیبهشت–خرداد ۱۴۰۵ (مه ۲۰۲۶) پس از دریافت ایمیل از صندوقی که ظاهراً متعلق به یکی از همکارانش بود، تراکنش‌هایی بیش از ۲۳٫۸ میلیون یورو را مجاز کرد؛ پول از مسیر اسپانیا، سنگاپور، هنگ‌کنگ و بحرین جابه‌جا شد و بخشی از آن در بارسلون توقیف شد. در دیگری، مربوط به مؤسسه‌ای کوچک‌تر، حدود ۲ میلیون یورو برده شد که بخشی از آن در کرواسی بازگردانده شد. کسانی که این تحقیقات را دنبال می‌کنند به لحظه‌های آسیب‌پذیری اشاره کرده‌اند که در آن‌ها به دستورهای مهم اعتماد شده، هرچند از طریق پیام‌رسان‌هایی مثل واتس‌اپ رسیده بودند.
چرا کلاهبرداری جعل هویت مدیرعامل در بانک‌ها جواب می‌دهد
هیچ‌کدام از این پرونده‌ها رمزنگاری را نشکستند یا به سامانه بانکداری متمرکز نفوذ نکردند. آن‌ها از ضعفی بسیار قدیمی‌تر استفاده کردند: اقتدار از راه آشنایی. پیامی که به نظر می‌رسد از مدیرعامل آمده، و پس از آن صدایی که شبیه یک مشاور مورد اعتماد است، فوریت و فشاری اجتماعی می‌سازد که فرایند عادی را دور می‌زند. هوش مصنوعی مولد فقط جعل نشانه‌های آشنایی (نامی آشنا، صدایی آشنا، لحنی مطمئن) را ارزان کرده است.
مواد خام هم به‌آسانی در دسترس است. گزارشی درباره دیپ‌فیک از شرکت ایتالیایی identifAI که Biometric Update در مهر ۱۴۰۵ خلاصه کرده، می‌گوید مهاجمان از پلتفرم‌هایی مثل لینکدین برای جمع‌آوری صدا و ویدئوی باکیفیت مدیران ارشد استفاده می‌کنند و آن را به مدل‌های مولد متن‌باز می‌دهند. همین گزارش به پیش‌بینی Deloitte استناد می‌کند که هوش مصنوعی مولد می‌تواند زیان ناشی از تقلب در آمریکا را تا سال ۲۰۲۷ به ۴۰ میلیارد دلار برساند.
درس این ماجرا برای یک مدیر فناوری ناخوشایند اما مفید است: در کلاهبرداری جعل هویت مدیرعامل (CEO Fraud) هدف، مسیر مجوزدهی است، نه محیط شبکه. ارشدیت دقیقاً همان چیزی است که مهاجم قرض می‌گیرد؛ پس هر فرایندی که اجازه دهد ارشدیت میان‌بُری برای دور زدن راستی‌آزمایی باشد، خودش آسیب‌پذیری است.
پژوهش‌های تازه درباره تشخیص دیپ‌فیک چه می‌گویند
واکنش غریزی، خرید یک آشکارساز است. پژوهش‌های مهر ۱۴۰۵ نشان می‌دهد آشکارسازها کمک می‌کنند، اما نمی‌توانند دروازه نهایی باشند.
۱. آشکارسازهایی که روی صدای تمیز کار می‌کنند، در تماس واقعی افت می‌کنند
پژوهش RealComm از دانشگاه چینی هنگ‌کنگ (شنژن) و Huawei، گفتار دیجیتال را با ضبط همان جمله‌ها پس از عبور از تماس‌های واقعی موبایل جفت می‌کند و حالت بلندگو و گوشی، دستگاه‌های مختلف و حذف نویز گوشی را پوشش می‌دهد. آشکارسازهای موجود پس از عبور صدا از تماس افت چشمگیری نشان دادند، حتی مدل‌هایی که روی صدای دیجیتال عملکرد قوی داشتند، و پخش صدای جعلی از بلندگو به میکروفون گوشی تماس‌گیرنده به‌ویژه دشوار بود. تطبیق آشکارسازها با شبیه‌سازی اثرهای تماس و آموزش روی تماس واقعی کمک کرد: برای یکی از آشکارسازها به نام Teffic-Audio، نرخ خطای برابر (EER) از ۳۷٫۹۴٪ به ۲۲٫۳۷٪ رسید. این بهبودی واقعی است، اما هنوز با سطحی که یک امتیاز به‌تنهایی بتواند پرداختی را آزاد کند فاصله زیادی دارد.
۲. تولیدکننده‌های تازه صدا از آشکارسازهای قدیمی جلو زده‌اند
بنچمارک VoxENES 2026 از دانشگاه فلوریدای جنوبی، هشت آشکارساز ازپیش‌آموزش‌دیده را بدون تنظیم دقیق روی ۵۳٬۶۲۸ نمونه انگلیسی و اسپانیایی از ده سامانه جدید تبدیل متن به گفتار و تبدیل صدا آزمود؛ با پس‌پردازش‌های واقع‌گرایانه مثل فشرده‌سازی و نویز. بهترین آشکارساز در مجموع به نرخ خطای برابر ۲۸٫۹۸٪ رسید و پنج آشکارساز از هشت در حد شانس یا نزدیک به آن عمل کردند. در برابر یکی از سامانه‌های تبدیل صدای بدون نمونه (Zero-shot) به نام Seed-VC، هیچ آشکارسازی به خطای کمتر از ۴۱٪ نرسید. نویسندگان از یک بازی موش و گربه سخن می‌گویند: آشکارسازها ردپای تولیدکننده‌های قبلی را یاد می‌گیرند و تولیدکننده‌های تازه و پس‌پردازش‌های معمولی همان ردپاها را پاک می‌کنند.
۳. تشخیص تصویر و سلفی پیشرفت نشان می‌دهد، با ملاحظاتی
دیپ‌فیک تصویری در فرایند افتتاح حساب مسئله‌ای متفاوت از صدای شبیه‌سازی‌شده در تماس است. در سندباکس هوش مصنوعی مولد اداره پولی هنگ‌کنگ (HKMA) که دوره دوم آن ۲۷ مورد کاربرد از ۲۰ بانک و ۱۴ شرکت فناوری را در بر می‌گرفت، Ping An Digital Bank از دقت تشخیص بیش از ۹۶٪ برای سلفی‌های جعلی یا دست‌کاری‌شده در احراز هویت خبر داد و HSBC اعلام کرد هیچ‌یک از حدود ۲۰ تلاش دیپ‌فیک از سامانه امنیتی‌اش عبور نکرد. این نتایج امیدوارکننده‌اند، اما همان‌طور که Biometric Update اشاره کرده، جزئیات عمومی اندک درباره روش آزمون، مقایسه سامانه‌ها و پیش‌بینی عملکردشان در برابر حمله‌های بیرون از سندباکس را دشوار می‌کند.
این الگو با آنچه درباره بنچمارک ایجنت هوش مصنوعی نوشتم هم‌خوان است: امتیازی که در یک محیط سنجیده شده، درباره کانال، دستگاه‌ها و مهاجمان شما چیز زیادی نمی‌گوید. هر فروشنده ابزار تشخیص دیپ‌فیک را باید روی مسیرهای تماس و فرایندهای افتتاح حساب خودتان و در برابر تولیدکننده‌های امروزی آزمود.
ناظران از تشخیص به سمت پاسخ‌گویی می‌روند
ناظران مسئله را فقط فناورانه نمی‌بینند، بلکه آن را مسئله‌ای حاکمیتی می‌دانند. HKMA در ۲۳ مهر ۱۴۰۵ (۱۵ اکتبر ۲۰۲۶) چارچوب «ART» (پاسخ‌گویی، تاب‌آوری و اعتماد) را برای به‌کارگیری مسئولانه هوش مصنوعی در بانکداری اعلام کرد؛ همراه با رهنمود نظارتی تازه بر پایه تجربه سندباکس و یک مقاله مباحثه‌ای در راه درباره حاکمیت هوش مصنوعی عاملی که پاسخ‌گویی متکی بر قصد (Intent-anchored Accountability) و ثبت ایجنت‌های هوش مصنوعی مهم را بررسی می‌کند. در آمریکا، FinCEN در آبان ۱۴۰۳ (نوامبر ۲۰۲۴) پس از مشاهده افزایش گزارش‌های فعالیت مشکوک درباره رسانه‌های دیپ‌فیک، به‌ویژه اسناد هویتی جعلی برای دور زدن احراز هویت، هشداری منتشر کرد.
بانک‌ها هم همین را می‌گویند. Lavy Stokhamer، مدیر جهانی فناوری امنیت سایبری و جرائم مالی در Standard Chartered، در اجلاس Global Retail Banking Innovation Summit 2026 گفت: «اعتماد همیشه پول رایج بانکداری بوده است. در عصر دیپ‌فیک و هوش مصنوعی خودمختار، حفظ این اعتماد ایجاب می‌کند نه‌فقط تراکنش‌ها، بلکه هویت‌ها، قصد و اصالت را در مقیاسی بی‌سابقه راستی‌آزمایی کنیم.» او همچنین تأکید کرد هیچ بانکی به‌تنهایی نمی‌تواند با تقلب مصنوعی مقابله کند.
راهنمای دفاع در برابر کلاهبرداری دیپ‌فیک برای مدیران فناوری بانک
این فهرستی است که پس از پرونده Fideuram به کمیته ریسک یک بانک می‌برم:
۱. صدا و چت را از مسیر مجوزدهی حذف کنید. تماس تلفنی، پیام صوتی یا پیام واتس‌اپ می‌تواند گفت‌وگو را آغاز کند، اما هرگز نباید پرداختی را مجاز کند. دستورهای با مبلغ بالا فقط باید درون سامانه پرداخت و توسط کاربران احرازهویت‌شده قابل اجرا باشند.
۲. ارشدیت را در کنترل‌ها بی‌اثر کنید. درخواست‌های فوری و محرمانه «از طرف مدیرعامل» باید همان تأیید دونفره و تفکیک وظایفی را طی کنند که هر درخواست دیگری طی می‌کند. این را در سیاست سازمان بنویسید تا کارمندی که از حذف یک مرحله سر باز می‌زند، مورد حمایت باشد.
۳. با شماره شناخته‌شده تماس بگیرید. راستی‌آزمایی باید از کانالی انجام شود که درخواست‌کننده آن را ارائه نکرده است: شماره ثبت‌شده در فهرست سازمان، دستگاه ثبت‌شده یا تأیید درون‌برنامه‌ای. تأیید یک درخواست در همان کانالی که از آن رسیده، چیزی را ثابت نمی‌کند.
۴. قصد را امضا کنید، نه فقط نشست را. برای انتقال‌های بزرگ یا غیرعادی، تأیید رمزنگاری‌شده‌ای بخواهید که به مبلغ و ذی‌نفع گره خورده و با احراز هویت قوی روی دستگاه ثبت‌شده انجام شود. این همان اصل قصد امضاشده‌ای است که شبکه‌های کارت برای پرداخت با ایجنت هوش مصنوعی می‌سازند.
۵. تشخیص را سیگنال بدانید، نه دروازه. از تشخیص دیپ‌فیک صوتی و تصویری برای بالا بردن امتیاز ریسک و فعال کردن احراز هویت تکمیلی استفاده کنید، اما هرگز آن را تنها دلیل تأیید ندانید. فروشندگان را به‌طور منظم در برابر تولیدکننده‌های جدید و روی مسیرهای تماس واقعی دوباره بیازمایید.
۶. مرکز تماس را مقاوم کنید. بیومتریک صوتی به‌تنهایی دیگر برای اقدام‌های پرریسک مثل تغییر ذی‌نفع یا بازنشانی اطلاعات ورود کافی نیست. پایپ‌لاین تحلیل گفتاری که در مقاله کنترل کیفیت کال سنتر با تحلیل گفتار شرح داده‌ام، می‌تواند الگوهای مهندسی اجتماعی مثل فوریت و پنهان‌کاری را هم برای بررسی انسانی علامت‌گذاری کند.
۷. بازگرداندن وجه را تمرین کنید. Fideuram بیش از نیمی از پول را بازگرداند، چون مشکل را سریع تشخیص داد و به بانک‌ها و مقام‌های چند کشور هشدار داد. مسیرهای ارتباطی اضطراری را از پیش با بانک‌های کارگزار هماهنگ کنید، درخواست سریع توقیف و برگشت وجه را تمرین کنید و زمان تا هشدار را بسنجید.
۸. کسانی را که مهاجمان اول هدف می‌گیرند آموزش دهید. مدیران ارشد، دستیارانشان و تیم‌های خزانه‌داری و مالی هدف اصلی‌اند. شبیه‌سازی‌های واقع‌گرایانه اجرا کنید، از جمله با صدای شبیه‌سازی‌شده مدیران خودتان با رضایت آن‌ها، و اطلاعات تهدید را با همتایان و ناظران به اشتراک بگذارید.
سخن پایانی
پرونده ۹۵ میلیون یورویی داستان هوش مصنوعی‌ای نیست که آن‌قدر خوب است که نمی‌توان تشخیصش داد. داستان مدلی از مجوزدهی است که هنوز به نامی آشنا و صدایی آشنا اعتماد می‌کند. تشخیص بهتر خواهد شد و تولیدکننده‌ها هم پابه‌پای آن بهتر می‌شوند. پاسخ ماندگار این است که هیچ پیام، تماس یا چهره‌ای، هرقدر هم قانع‌کننده، نتواند به‌تنهایی پول را جابه‌جا کند و هر دستور پرمبلغ، گواهی قابل راستی‌آزمایی داشته باشد از اینکه چه کسی و دقیقاً چه چیزی را تأیید کرده است.
منابع
- AI messaging scam costs Italy's top bank Intesa millions, sources say، Emilio Parodi، رویترز (از طریق StreetInsider)، ۳ مهر ۱۴۰۵
- I Pm Milano indagano su altre due truffe a banche con IA, una da 24 milioni، ANSA، ۳ مهر ۱۴۰۵
- Italian bank loses $108M to AI messaging fraud, as identifAI warns of deepfake threat، Joel R. McConvey، Biometric Update، ۲۳ مهر ۱۴۰۵
- RealComm: Benchmarking and Adapting Audio Deepfake Detection over Real Communication Channels، L. Wang، J. Wang، W. Lin، K. Feng و همکاران (دانشگاه چینی هنگ‌کنگ، شنژن؛ Huawei Technologies)، arXiv:2610.27459، مهر ۱۴۰۵
- VoxENES 2026: Benchmarking Generalization of Speech Spoofing Detectors Against LLM-Era TTS and Voice Conversion، A. Sharma، G. Wang (دانشگاه فلوریدای جنوبی)، arXiv:2607.11706، تیر–مرداد ۱۴۰۵
- HKMA announces "ART" Framework to promote responsible A.I. adoption، اداره پولی هنگ‌کنگ (HKMA)، ۲۳ مهر ۱۴۰۵
- Banks unveil AI outcomes under HKMA sandbox scheme، RTHK، ۲۳ مهر ۱۴۰۵
- Ping An Digital Bank Completes HKMA's Second GenA.I. Sandbox Cohort، Ping An Digital Bank از طریق Media OutReach Newswire، ۲۳ مهر ۱۴۰۵
- Hong Kong banks test AI deepfake detection in HKMA sandbox، Lu-Hai Liang، Biometric Update، ۲۷ مهر ۱۴۰۵
- Trust comes into focus as deepfakes and autonomous AI reshape banking، Syahirah Syed Jaafar، The Digital Banker، ۴ آبان ۱۴۰۵
- FinCEN Issues Alert on Fraud Schemes Involving Deepfake Media Targeting Financial Institutions، شبکه مقابله با جرائم مالی وزارت خزانه‌داری آمریکا (FinCEN)، ۲۳ آبان ۱۴۰۳