Promptware احتمالاً واژهای است که تا امروز کمتر شنیدهاید، اما Promptware چیست؟ اگر با چتباتها، دستیارهای صوتی یا هر ابزار مبتنی بر هوش مصنوعی سروکار دارید، بهتر است هرچه زودتر با آن آشنا شوید. این اصطلاح که اوایل سال ۲۰۲۵ توسط گروهی از پژوهشگران معرفی شد، توصیفی است برای دستهای کاملاً جدید از تهدیدات سایبری که در آن، پرامپتهای زبان طبیعی نقش کدهای مخرب را بازی میکنند. شاید در نگاه اول عجیب بهنظر برسد؛ چطور ممکن است یک جملهی معمولی، همانقدر خطرناک باشد که یک ویروس کامپیوتری؟ جواب این سؤال دقیقاً همان چیزی است که در ادامهی این مقاله برایتان روشن میکنیم.
هرچه ابزارهای هوشمند بیشتر وارد زندگی روزمرهمان میشوند، از خانههای هوشمند گرفته تا دستیارهای شخصی روی گوشی، سطح حمله هم گستردهتر میشود. اگر میخواهید بدانید چرا امنیت هوش مصنوعی دیگر یک موضوع تخصصی و دورازذهن نیست بلکه مستقیماً به حریم خصوصی و حتی امنیت فیزیکی شما مربوط میشود، تا انتهای این مطلب همراه ما بمانید.
نکتهی جالب این است که «Promptware چیست»، پرسشی نیست که فقط متخصصان امنیت باید پاسخش را بدانند. هر کاربر عادیای که از یک چتبات برای خلاصهکردن ایمیلها یا کنترل چراغهای خانه استفاده میکند، ناخواسته در معرض این تهدید قرار دارد. در این مقاله مجله هوش مصنوعی قدمبهقدم بررسی میکنیم که این نوع حمله از کجا آمده، چه تفاوتی با بدافزارهای کلاسیک دارد و مهمتر از همه، چطور میتوانید در برابرش از خودتان محافظت کنید.
Promptware چگونه کار میکند؟
برای فهم Promptware باید ابتدا یک واقعیت بنیادین دربارهی مدلهای زبانی بزرگ را بپذیریم: برخلاف نرمافزارهای سنتی که مرز مشخصی میان «کد اجراشدنی» و «دادهی ورودی» دارند، مدلهای زبانی همهچیز را بهشکل یک رشتهی واحد از توکنها پردازش میکنند. یعنی از نگاه هوش مصنوعی، فرقی میان یک دستور سیستمی، یک ایمیل معمولی و یک سند بهاشتراکگذاشتهشده وجود ندارد؛ همه به یک اندازه «قابلاعتماد» تلقی میشوند، مگر اینکه سازوکار دفاعی خاصی این را تغییر دهد.
این یعنی اگر دستوری مخرب در دل یک متن بهظاهر بیخطر، مثلاً عنوان یک رویداد تقویم یا یک ایمیل، جاسازی شود، مدل ممکن است آن را با همان اولویتی اجرا کند که یک دستور رسمی از طرف کاربر یا توسعهدهنده دارد. حمله Promptware دقیقاً از همین خلأ ساختاری سوءاستفاده میکند. برخلاف تصور رایج، این حملات معمولاً در یک مرحله تمام نمیشوند؛ بلکه زنجیرهای چندمرحلهای را طی میکنند که شباهت زیادی به کمپینهای بدافزاری کلاسیک مثل Stuxnet دارد: ورود اولیه، ارتقای سطح دسترسی، شناسایی محیط، ماندگاری در حافظه، دریافت دستور از راه دور و درنهایت گسترش به سیستمهای دیگر.
هر کدام از این مراحل نقش خودش را دارد. در مرحلهی «ارتقای سطح دسترسی» که گاهی «جیلبریککردن» هم نامیده میشود، مهاجم تلاش میکند مدل را قانع کند نقشی تازه بپذیرد و قوانین ایمنیاش را کنار بگذارد، دقیقاً شبیه به لحظهای که یک مهاجم سنتی از یک حساب کاربری عادی به سطح دسترسی مدیر سیستم ارتقا پیدا میکند. در ادامه، مرحلهی «ماندگاری» اهمیت ویژهای دارد؛ چون یک حملهی موقتی که پس از یک بار تعامل ناپدید میشود، صرفاً یک مزاحمت است، اما اگر دستور مخرب در حافظهی بلندمدت یک عامل هوشمند یا در پایگاهدادهای که به آن متکی است جا خوش کند، هر بار که کاربر از آن سرویس استفاده کند، همان کد مخرب دوباره اجرا میشود.
تفاوت Promptware با بدافزارهای سنتی چیست؟
بدافزارهای سنتی معمولاً به آسیبپذیریهای نرمافزاری، باگهای کد یا ضعف در پیکربندی سیستم متکیاند. اما Promptware بهجای بهرهبرداری از یک باگ فنی، از توانایی استدلال زبانی خودِ مدل استفاده میکند؛ یعنی سلاح اصلی مهاجم، زبان طبیعی است، نه اسکریپت یا اکسپلویت. همین ویژگی باعث میشود شناسایی و مسدودسازی آن بهمراتب دشوارتر از آنتیویروسهای سنتی باشد، چون هیچ امضای مشخصی برای تشخیص وجود ندارد.
Prompt Injection چیست؟
Prompt Injection که گاهی «هک پرامپت» یا «ربایش پرامپت» هم نامیده میشود، در واقع اولین گام از زنجیرهی حمله Promptware است، نه کل ماجرا. در این تکنیک، مهاجم دستوراتی طراحی میکند که مدل زبانی را وادار به نادیدهگرفتن محدودیتهای داخلیاش کند. این کار میتواند مستقیم باشد (کاربر خودش پرامپت مخرب را تایپ میکند) یا غیرمستقیم، یعنی دستور مخرب در محتوایی که مدل بعداً دریافت میکند، مثل یک صفحهی وب یا یک فایل صوتی، پنهان شود. با گسترش مدلهای چندوجهی، این بردار حمله حتی میتواند در تصاویر هم جاسازی شود.
منبع:
چرا AI Agentها در برابر Promptware آسیبپذیر هستند؟
عاملهای هوش مصنوعی یا همان AI Agent، برخلاف چتباتهای ساده، معمولاً به سرویسهای واقعی مثل ایمیل، تقویم، پرداخت آنلاین یا حتی دستگاههای خانه هوشمند دسترسی دارند. همین سطح بالای دسترسی است که آنها را به هدفی وسوسهانگیز برای مهاجمان تبدیل میکند؛ چون اگر یک عامل هوشمند فریب بخورد، دیگر فقط یک پاسخ نامناسب تولید نمیکند، بلکه میتواند رویدادی را حذف کند، ایمیلی ارسال کند یا دستگاهی را کنترل کند. هرچه استقلال عمل یک عامل بیشتر باشد، پیامد یک حمله موفق هم سنگینتر خواهد بود.
کدام دستگاهها و سرویسها در معرض خطر Promptware قرار دارند؟
فهرست دستگاهها و سرویسهای در معرض خطر روزبهروز طولانیتر میشود، اما سه دسته بیش از بقیه در کانون توجه پژوهشگران امنیتی قرار دارند.
چتباتهای هوش مصنوعی مانند ChatGPT و Gemini
امنیت ChatGPT و امنیت Gemini این روزها یکی از داغترین موضوعات در حوزه AI Security است. پژوهشی با عنوان «Invitation is All You Need» نشان داد چطور یک دعوت سادهی تقویمی توانست Gemini گوگل را فریب دهد تا اقداماتی مثل ارسال هرزنامه، حذف رویدادها و حتی ردیابی موقعیت مکانی کاربر را انجام دهد. جالب اینجاست که کاربر هیچکاری بیشتر از پرسیدن دربارهی برنامهی روزانهاش انجام نداده بود.
دستیارهای صوتی و خانههای هوشمند
Smart Home Security یکی از حوزههایی است که کمتر به آن پرداخته میشود، درحالیکه پیامدهای فیزیکی حملات در این حوزه میتواند بسیار ملموستر از دنیای دیجیتال باشد. تصور کنید یک دستور مخربِ جاسازیشده در یک ایمیل یا دعوت تقویم، بتواند قفل درها را باز کند، دوربینهای امنیتی را غیرفعال کند یا دمای خانه را دستکاری کند. حملات هوش مصنوعی در این لایه دیگر صرفاً یک مزاحمت دیجیتال نیستند.
عاملهای هوش مصنوعی (AI Agents)
عاملهای خودکار که وظیفهی رزرو بلیط، مدیریت ایمیل یا حتی خرید آنلاین را برعهده میگیرند، بهدلیل دسترسی گستردهشان به دادهها و سرویسهای مختلف، جذابترین هدف برای Promptware بهشمار میروند. در نمونههای مستندشده، عاملهای هوشمند حتی فریب خوردهاند تا خودروی متعلق به کاربر را با قیمتی مسخره بفروشند یا رمزارز را به کیفپول مهاجم منتقل کنند.
مهاجمان چگونه از Promptware برای نفوذ استفاده میکنند؟
سناریوی رایج اینگونه است: مهاجم ابتدا دستور مخرب را در محتوایی که مدل دیر یا زود آن را میخواند جاسازی میکند، مثلاً عنوان یک رویداد تقویم یا موضوع یک ایمیل. سپس با تکنیکهایی شبیه به مهندسی اجتماعی، مدل را قانع میکند نقشی را ایفا کند که در آن قوانین ایمنیاش را کنار میگذارد. در ادامه، مدل ممکن است اطلاعاتی دربارهی سرویسهای متصل به خودش فاش کند و همین اطلاعات، مسیر ادامهی حمله را برای مهاجم روشنتر میکند.
نکتهی نگرانکننده این است که برخی از این حملات میتوانند خودشان را تکثیر کنند؛ یعنی یک دستیار ایمیل آلوده ممکن است فریب بخورد تا همان پیام مخرب را برای تمام مخاطبان کاربر هم ارسال کند، دقیقاً شبیه به سازوکار انتشار یک ویروس رایانهای کلاسیک.
چگونه از خود در برابر حملات Promptware محافظت کنیم؟
خبر خوب این است که تهدیدات هوش مصنوعی مثل Promptware، غیرقابلکنترل نیستند. با رعایت چند اصل ساده میتوانید ریسک را بهطور محسوسی کاهش دهید.
بهروزرسانی منظم دستگاهها و سرویسها
فروشندگان معتبر هوش مصنوعی معمولاً بهمحض کشف یک آسیبپذیری، وصلهی امنیتی منتشر میکنند. بهروزرسانی بهموقع اپلیکیشنها، دستیارهای صوتی و پلتفرمهای چت، سادهترین و در عین حال مؤثرترین اقدام دفاعی است که اغلب کاربران آن را نادیده میگیرند.
محدود کردن دسترسی AI Agentها
در موردامنیت AI Agent اصل کمترین امتیاز را جدی بگیرید: هر عامل هوشمند فقط باید به دادهها و کنترلهایی دسترسی داشته باشد که واقعاً برای انجام وظیفهاش لازم است. اگر دیگر از یک قابلیت خاص، مثل کنترل یک دستگاه فیزیکی، استفاده نمیکنید، اتصالش را قطع کنید. همینجا بد نیست اشاره کنیم که اگر بهدنبال دستیار هوشمندی میگردید که در کنار قدرت، به کنترل دسترسی هم اهمیت بدهد، میتوانید سراغ پنل چت هوش مصنوعی بروید؛ جایی که بدون نیاز به فیلترشکن میتوانید مدلهای مختلف را در یک محیط ساده و فارسی امتحان کنید.
بررسی دستورات و منابع ورودی
هر سامانهی قابلاتکایی باید سابقهی تعاملات را ثبت کند. اگر متوجه رفتار غیرعادی در یک دستیار هوشمند شدید، مثلاً پاسخی که ربطی به درخواست شما ندارد، آن را جدی بگیرید و در صورت لزوم با پشتیبانی سرویس تماس بگیرید. امنیت چتباتها تا حد زیادی به هوشیاری همین کاربران عادی هم وابسته است.
آیا Promptware آینده امنیت سایبری را تغییر خواهد داد؟
به احتمال زیاد بله. Prompt Injection چیزی نیست که بتوان آن را با یک وصلهی ساده برای همیشه برطرف کرد؛ چون ریشه در معماری بنیادین مدلهای زبانی دارد. به همین دلیل، پژوهشگران معتقدند رویکرد امنیتی باید از حالت واکنشی (پچکردن پس از هر رخنه) به رویکردی پیشگیرانه و لایهبهلایه تغییر کند؛ رویکردی که فرض را بر این میگذارد که ورود اولیهی مهاجم دیر یا زود اتفاق میافتد و تمرکز اصلی باید روی قطعکردن زنجیره در مراحل بعدی باشد.
با گسترش روزافزون AI Agentها در کسبوکارها و خانهها، احتمالاً شاهد شکلگیری استانداردهای امنیتی تازه، قوانین سختگیرانهتر و حتی بیمههای سایبری مختص هوش مصنوعی خواهیم بود.
مهمترین توصیههای امنیتی برای کاربران ChatGPT و خانههای هوشمند
بعد از پاسخ به سوال Promptware چیست، نوبت به چند توصیه میرسد، چند توصیهی عملی که هر کاربری، چه در سطح فردی و چه سازمانی، باید مدنظر داشته باشد:
- همیشه از فروشندگان شناختهشده و باسابقه در حوزه AI Security استفاده کنید.
- سطح دسترسی دستیارهای هوشمند به دادههای حساس را حداقلی نگه دارید.
- قابلیتهای خانه هوشمند که دیگر استفاده نمیکنید را کاملاً غیرفعال کنید، نه فقط خاموش.
- به دعوتهای تقویمی، ایمیلها و اسنادی که منبع نامشخصی دارند با احتیاط بیشتری برخورد کنید، مخصوصاً اگر قرار است هوش مصنوعی آنها را پردازش کند.
- تنظیمات امنیتی سامانههای مبتنی بر LLM را همیشه روی سختگیرانهترین حالت ممکن قرار دهید، حتی اگر این کار برخی قابلیتها را محدود کند.
Promptware یادآور این واقعیت است که هرچه هوش مصنوعی هوشمندتر و خودمختارتر میشود، مسئولیت ما در قبال نحوهی استفاده از آن هم سنگینتر میشود. آگاهی از این تهدید، اولین و مهمترین قدم برای مقابله با آن است.
سوالات متداول Promptware
آیا Promptware میتواند بدون اتصال به اینترنت هم فعال شود؟
معمولاً خیر؛ چون بیشتر مراحل زنجیرهی حمله، از جمله دریافت دستور از راه دور یا انتشار به سیستمهای دیگر، به نوعی اتصال شبکهای وابستهاند.
آیا استفاده از مدلهای متنباز ریسک Promptware را بیشتر میکند؟
لزوماً نه؛ ریسک بیشتر به معماری امنیتی و سطح دسترسی اعطاشده به مدل بستگی دارد تا اینکه مدل متنباز باشد یا اختصاصی.
چطور بفهمیم دستیار صوتی خانهمان قربانی یک حمله شده؟
رفتارهای غیرمنتظره مثل اجرای دستوراتی که ندادهاید یا تغییرات ناگهانی در تنظیمات دستگاهها، از نشانههای هشداردهنده هستند.
آیا شرکتهای بزرگی مثل گوگل و OpenAI برای این مشکل راهحل قطعی دارند؟
تاکنون راهحل قطعی و کاملی ارائه نشده، اما این شرکتها بهطور مستمر لایههای دفاعی جدیدی برای کاهش سطح ریسک اضافه میکنند.
آیا کاربران عادی (غیرفنی) هم باید نگران Promptware باشند؟
بله، چون بسیاری از این حملات از طریق ایمیلها و دعوتهای تقویمی روزمره آغاز میشوند، نه فقط سیستمهای پیچیدهی سازمانی.
