Zero Data Retention برای مدل‌های پیشرفته توسط OpenAI

OpenAI اعلام کرد که قابلیت Zero Data Retention (ZDR) را برای مدل‌های پیشرفته خود فعال کرده است. با این قابلیت، داده‌های ورودی و خروجی مشتریان API پس از پردازش ذخیره نمی‌شوند و محتوای مشتریان برای بازبینی در دسترس کارکنان OpenAI قرار نمی‌گیرد.

همچنین داده‌های سازمانی برای آموزش مدل‌ها مورد استفاده قرار نمی‌گیرند، مگر اینکه مشتریان به‌طور صریح رضایت دهند. این سیاست به‌ویژه برای سازمان‌هایی که با اطلاعات حساس مانند سوابق مالی، داده‌های سلامت یا برنامه‌های محرمانه سروکار دارند، اهمیت دارد.

OpenAI همزمان با معرفی ZDR، پیش‌نمایشی از قابلیت Private Safety Processing را ارائه داده است. این قابلیت امکان شناسایی الگوهای سوءاستفاده را بدون دسترسی کارکنان OpenAI به محتوای مشتریان فراهم می‌کند و امنیت را در کنار حفظ حریم خصوصی تقویت می‌نماید.

در این رویکرد، داده‌ها یا روی زیرساخت مشتری ذخیره می‌شوند یا در صورت استفاده از زیرساخت OpenAI، به‌صورت رمزنگاری‌شده و با کلیدهایی که فقط در اختیار مشتری است، نگهداری می‌شوند.

چرا این خبر مهم است؟

ارائه قابلیت Zero Data Retention توسط OpenAI نقطه عطفی در حوزه امنیت و حریم خصوصی داده‌های سازمانی محسوب می‌شود. بسیاری از سازمان‌ها به دلیل الزامات قانونی یا تعهدات خود نسبت به مشتریان، نمی‌توانند اجازه دهند داده‌های حساسشان برای نظارت یا آموزش مدل‌ها ذخیره شود. با این اقدام، OpenAI به نیازهای این سازمان‌ها پاسخ داده و امکان استفاده از مدل‌های پیشرفته هوش مصنوعی را بدون نگرانی از افشای داده یا سوءاستفاده فراهم می‌کند. همچنین، قابلیت Private Safety Processing نشان می‌دهد که می‌توان ایمنی را بدون به خطر انداختن حریم خصوصی ارتقا داد. این رویکرد می‌تواند به افزایش پذیرش هوش مصنوعی در صنایع حساس و تقویت اعتماد به فناوری‌های نوین منجر شود.

در برخی از پیاده‌سازی‌های اخیر مدل‌های پیشرفته، مشتریان مجبور بودند برای نظارت ایمنی، اجازه ذخیره داده‌های حساس خود را بدهند که با تعهدات امنیتی بسیاری از سازمان‌ها در تضاد بود. OpenAI با معرفی ZDR و Private Safety Processing تلاش کرده است این چالش را برطرف کند و همزمان ایمنی و حریم خصوصی را حفظ نماید.

Sunil Agrawal، مدیر امنیت اطلاعات Glean، گفته است:

 تعهد OpenAI به عدم استفاده از داده‌ها برای آموزش و ZDR به ما اطمینان می‌دهد که می‌توانیم با OpenAI همکاری کنیم. OpenAI نشان می‌دهد که ایمنی می‌تواند بدون به خطر انداختن حریم خصوصی و کنترل داده‌ها پیشرفت کند.

این اظهارنظر نشان‌دهنده اهمیت کنترل داده برای پذیرش هوش مصنوعی در سطح سازمانی است و تأکید می‌کند که رویکرد جدید OpenAI می‌تواند اعتماد شرکت‌ها را افزایش دهد.

بعد چه می‌شود؟

OpenAI اعلام کرده است که قصد دارد از سپتامبر قابلیت Private Safety Processing را به‌تدریج عرضه کند و یک وایت‌پیپر فنی منتشر نماید. اطلاعات بیشتری درباره زمان‌بندی دقیق ارائه نشده است.