به گزارش اکو اقتصاد، با گسترش استفاده از ابزارهای هوش مصنوعی در محیط‌های سازمانی، امنیت داده‌ها به یکی از مهم‌ترین دغدغه‌های کاربران و شرکت‌های فناوری تبدیل شده است. در همین راستا، شرکت OpenAI از قابلیت امنیتی جدیدی برای چت‌جی‌پی‌تی با عنوان «Lockdown Mode» یا «حالت قرنطینه» رونمایی کرده است؛ قابلیتی که هدف آن کاهش خطر حملات «تزریق پرامپت» و جلوگیری از افشای اطلاعات حساس کاربران است.

حملات تزریق پرامپت یکی از مهم‌ترین تهدیدهای نوظهور در حوزه هوش مصنوعی محسوب می‌شوند. در این نوع حملات، دستورالعمل‌های مخرب در صفحات وب، اسناد، فایل‌ها یا سایر منابع اطلاعاتی پنهان می‌شوند تا مدل هوش مصنوعی را فریب داده و آن را به انجام اقداماتی ناخواسته یا افشای داده‌های محرمانه وادار کنند. با گسترش قابلیت‌های مبتنی بر وب و اتصال مدل‌های زبانی به سرویس‌های خارجی، نگرانی‌ها درباره سوءاستفاده از این روش‌ها نیز افزایش یافته است.

بر اساس اعلام OpenAI، حالت Lockdown با محدود کردن بسیاری از قابلیت‌هایی که به اینترنت یا سرویس‌های خارجی متصل هستند، تلاش می‌کند مسیرهای احتمالی خروج اطلاعات را مسدود کند. در این حالت، مرور زنده وب غیرفعال شده و چت‌جی‌پی‌تی تنها به محتوای ذخیره‌شده یا کش‌شده دسترسی خواهد داشت. همچنین قابلیت‌هایی نظیر «پژوهش عمیق» (Deep Research)، «حالت عامل» (Agent Mode)، دانلود فایل‌ها برای تحلیل داده و برخی امکانات مرتبط با تصاویر اینترنتی نیز غیرفعال می‌شوند. با این حال، کاربران همچنان می‌توانند تصاویر جدید تولید کنند یا فایل‌های خود را به‌صورت دستی بارگذاری کنند.

 یکی از مهم‌ترین چالش‌های نسل جدید مدل‌های هوش مصنوعی، توانایی آنها در تعامل هم‌زمان با منابع متعدد اطلاعاتی است. هرچه دسترسی مدل به وب، اپلیکیشن‌ها و سرویس‌های شخص ثالث بیشتر شود، سطح حمله نیز گسترده‌تر خواهد شد. به همین دلیل بسیاری از شرکت‌های فناوری در حال توسعه لایه‌های امنیتی جدید برای محافظت از کاربران در برابر حملات مبتنی بر هوش مصنوعی هستند.

با این حال، OpenAI تأکید کرده که Lockdown Mode راهکاری مطلق برای مقابله با حملات تزریق پرامپت نیست. این شرکت هشدار داده است که دستورهای مخرب همچنان ممکن است در فایل‌های بارگذاری‌شده یا حتی محتوای ذخیره‌شده وب وجود داشته باشند و بر رفتار یا دقت پاسخ‌های مدل تأثیر بگذارند. هدف اصلی این قابلیت، کاهش احتمال انتقال داده‌های حساس به مهاجمان و محدود کردن کانال‌های ارتباطی بالقوه برای نشت اطلاعات است.

 معرفی Lockdown Mode نشانه‌ای از تغییر رویکرد صنعت هوش مصنوعی از تمرکز صرف بر افزایش توانایی مدل‌ها به سمت تقویت امنیت و مدیریت ریسک است. در ماه‌های اخیر، نگرانی‌ها درباره سوءاستفاده از عوامل هوش مصنوعی، دسترسی آنها به داده‌های سازمانی و امکان استخراج اطلاعات محرمانه از طریق حملات پیچیده‌تر افزایش یافته است. همین موضوع شرکت‌های بزرگ فناوری را به سمت توسعه قابلیت‌های امنیتی پیشرفته‌تر سوق داده است.

نکته قابل توجه آن است که این قابلیت در ابتدا برای کاربران سازمانی و محیط‌های تجاری طراحی شده بود، اما اکنون OpenAI دامنه دسترسی به آن را گسترش داده است. بر اساس اعلام این شرکت، Lockdown Mode به‌صورت تدریجی برای حساب‌های شخصی واجد شرایط و همچنین کاربران نسخه‌های تجاری چت‌جی‌پی‌تی عرضه می‌شود. برخی گزارش‌ها نیز حاکی از آن است که این قابلیت به مرور در اختیار کاربران تمامی سطوح، از حساب‌های رایگان تا اشتراک‌های حرفه‌ای قرار خواهد گرفت.

 رقابت فشرده میان شرکت‌های فعال در حوزه هوش مصنوعی، موضوع امنیت را به یکی از مزیت‌های رقابتی اصلی تبدیل کرده است. در شرایطی که سازمان‌ها روزبه‌روز اطلاعات حساس بیشتری را در اختیار ابزارهای مبتنی بر هوش مصنوعی قرار می‌دهند، توانایی ارائه لایه‌های حفاظتی مؤثر می‌تواند نقش مهمی در جلب اعتماد مشتریان و توسعه استفاده سازمانی از این فناوری داشته باشد.

در مجموع، «حالت قرنطینه» را می‌توان بخشی از تلاش گسترده‌تر OpenAI برای ایمن‌سازی استفاده از هوش مصنوعی در محیط‌های حرفه‌ای و حساس دانست؛ تلاشی که نشان می‌دهد با افزایش توانمندی مدل‌های هوش مصنوعی، موضوع امنیت نیز به همان اندازه در حال تبدیل شدن به اولویت اصلی توسعه‌دهندگان این فناوری است.