گوگل دیپ‌مایند و دولت سنگاپور از یک مدل هوش مصنوعی جدید برای شناسایی کلاهبرداری‌های پیام‌رسانی رونمایی کردند که به صورت روی دستگاه اجرا می‌شود و هدف آن حفاظت از شهروندان بدون نقض حریم خصوصی است.

در تاریخ ۱۴ اکتبر ۲۰۲۶، گوگل دیپ‌مایند و آژانس فناوری دولت سنگاپور (GovTech) اعلام کردند که با همکاری یکدیگر، مدل هوش مصنوعی شناسایی کلاهبرداری را توسعه داده‌اند که مستقیماً روی گوشی‌های هوشمند اجرا می‌شود. این اقدام در پاسخ به افزایش چشمگیر کلاهبرداری‌های پیام‌رسانی در سنگاپور انجام شده است؛ به طوری که طبق اعلام شرکت، بیش از نیمی از جرایم گزارش‌شده در این کشور مربوط به کلاهبرداری است و از سال ۲۰۱۹ بیش از ۴ میلیارد دلار سنگاپور خسارت به بار آورده است.

طبق اعلام گوگل دیپ‌مایند، روش‌های کلاهبرداری از فیشینگ ساده به مهندسی اجتماعی پیچیده تغییر یافته‌اند و اکنون تا ۸۰٪ از کل خسارات را شامل می‌شوند. این مدل جدید با هدف مقابله با این تهدیدها و حفظ حریم خصوصی شهروندان طراحی شده است.

ویژگی‌های مدل جدید

به گفته شرکت، مدل جدید مبتنی بر نسخه سبک‌وزن Gemma است که برای شناسایی الگوهای کلاهبرداری محلی، روی مکالمات واقعی و سناریوهای رایج در سنگاپور آموزش داده شده است. این مدل می‌تواند تفاوت بین گفت‌وگوی عادی و تلاش برای فریب را تشخیص دهد.

برخلاف روش‌های سنتی که نیازمند ارسال داده‌ها به سرورهای ابری هستند، این مدل تمام پردازش‌ها را روی خود دستگاه انجام می‌دهد. به گفته شرکت، این رویکرد به کاربران امکان می‌دهد بدون افشای اطلاعات خصوصی، از حفاظت هوش مصنوعی بهره‌مند شوند.

سازوکار عملکرد

طبق توضیح شرکت، مدل از یک فرآیند دو مرحله‌ای استفاده می‌کند: ابتدا یک طبقه‌بند سبک پیام‌های ورودی را با مصرف انرژی کم بررسی می‌کند و در صورت شناسایی تهدید، مدل Gemma آموزش‌دیده، بخش بیشتری از مکالمه را برای تأیید یا رد هشدار تحلیل می‌کند.

در صورت شناسایی الگوهای مشکوک، هشدار آنی روی دستگاه ظاهر می‌شود و به کاربر توصیه می‌کند پیش از ارسال اطلاعات حساس یا پول، احتیاط کند.

حفظ حریم خصوصی و امنیت داده

شرکت اعلام کرده که آموزش مدل صرفاً با داده‌های ناشناس و گزارش‌های کلاهبرداری انجام شده و هیچ داده خصوصی یا قابل شناسایی شهروندان استفاده نشده است. همچنین، فرآیند آموزش در محیط ابری مدیریت‌شده توسط GovTech و با نظارت سختگیرانه انجام شده است.

آزمایش و ارائه

به گفته شرکت، مدل روی مکالمات مصنوعی و داده‌های محلی برای پوشش انواع کلاهبرداری و روش‌های جدید تست شده است. این همکاری در هفته بین‌المللی امنیت سایبری سنگاپور (SICW ۲۰۲۶) معرفی شد.

گام بعدی

شرکت می‌گوید این پروژه نشان می‌دهد که می‌توان بدون قربانی کردن حریم خصوصی، امنیت پیام‌رسانی را با هوش مصنوعی افزایش داد. همچنین، مدل‌های سبک‌وزن مشابه می‌توانند مستقیماً در پیام‌رسان‌ها و سیستم‌عامل‌ها برای حفاظت محلی کاربران ادغام شوند.

در حال حاضر، اطلاعاتی درباره عرضه عمومی یا نتایج سنجش مستقل منتشر نشده است و تمام اطلاعات ارائه‌شده مبتنی بر اعلام شرکت است.