محدودیت‌های جدید اتحادیه اروپا برای چت‌جی‌پی‌تی

تصمیم کمیسیون اروپا برای قرار دادن چت‌جی‌پی‌تی در بالاترین سطح نظارتی، درست در لحظه رونمایی این هوش مصنوعی از عامل‌های اجرایی خود، نبرد بر سر عاملیت الگوریتم‌ها را وارد فازی بحرانی کرد.
بر اساس بیانیه رسمی دیروز کمیسیون اروپا، اتحادیه اروپا سرویس چت‌جی‌پی‌تی را رسماً به‌عنوان موتور جست‌وجوی آنلاین بسیار بزرگ، تحت قانون خدمات دیجیتال تعیین کرده است.

این تصمیم بر اساس اعلام رسمی مدیریت سرویس درباره دست‌کم ۴۵ میلیون کاربر ماهانه در حوزه اتحادیه اروپا صورت گرفته و چت‌جی‌پی‌تی را در کنار ردیت (Reddit) و روبلاکس (Roblox) در بالاترین سطح نظارت‌های مقرراتی قرار می‌دهد.

کمیسیون اروپا تصریح کرده که این سرویس‌ها پس از ابلاغ رسمی، چهار ماه مهلت دارند (یعنی تا پایان نوامبر ۲۰۲۶) تا الزامات جدید را به طور کامل اجرا کنند.

این الزامات صرفاً مربوط به امنیت یک نسخه خاص نیستند، بلکه طیف گسترده‌ای از ریسک‌های سیستمی شامل انتشار محتوای غیرقانونی، آثار منفی بر کودکان، سلامت جسمی و روانی کاربران، حقوق بنیادین، فرایندهای انتخاباتی و امنیت عمومی را پوشش می‌دهند.

عاملیت اجرایی مرزهای ابزارهای پاسخ‌دهنده را از بین می‌برد
اهمیت تصمیم اروپا زمانی بیشتر می‌شود که آن را در کنار تحول بنیادی خود چت‌جی‌پتی قرار دهیم.

شرکت اوپن‌ای‌آی در ۹ ژوئیه ۲۰۲۶، هنگام معرفی رسمی چت‌جی‌پی‌تی ورک (ChatGPT Work)، این محصول را نه یک چت‌بات معمولی، بلکه یک «عامل» برای انجام کارهای طولانی و چندمرحله‌ای معرفی کرد؛ سیستمی که می‌تواند در میان اپلیکیشن‌ها و فایل‌های متصل حرکت کند، اطلاعات جمع‌آوری و تحلیل کند، اسناد، صفحات گسترده، ارائه‌ها و وب‌سایت‌ها بسازد و حتی پروژه‌ها را برای ساعت‌ها دنبال کند.

اوپن‌ای‌آی همچنین اعلام کرد که این نسخه قابلیت انجام وظایف زمان‌بندی‌شده و تکرارشونده را دارد و در نسخه سازمانی، مدیران شبکه می‌توانند دسترسی به ابزارها، کانکتورها، شبکه و اقدامات حساس را مدیریت کنند.

اما همین افزایش عاملیت، همان نقطه‌ای است که مسئله امنیتی را از یک ابزار سنتی جدا می‌کند.

سایمون ویلیسون، پژوهشگر و برنامه‌نویس حوزه امنیت هوش مصنوعی، پس از بررسی عملی چت‌جی‌پی‌تی ورک در ۳۰ اوت ۲۰۲۶ نوشت که این محصول عملاً دو بخش متفاوت را دربرمی‌گیرد: ورک کلاد (Work Cloud) و ورک لوکال. او در بررسی خود به قابلیت‌هایی مانند اجرای کد با دسترسی اینترنت، مرورگر کروم بدون رابط کاربری، فایل‌سیستم پایدار، زیرعامل‌ها و وظایف زمان‌بندی‌شده اشاره کرد.

نگرانی اصلی او این بود که محصول هم‌زمان سه مؤلفه‌ای را در اختیار یک عامل قرار می‌دهد که در مدل موسوم به «مثلث کشنده» خطرناک تلقی می‌شوند: دسترسی به داده‌های خصوصی، قرارگرفتن در معرض محتوای غیرقابل‌اعتماد و داشتن راهی برای برقراری ارتباط خارجی.

تزریق دستورات پنهان تهدیدی جدّی برای زنجیره تصمیم است
این نکته از نظر امنیت سایبری بسیار مهم است؛ زیرا در چنین معماری خاصی، یک محتوای مخرب موجود در وب، یک فایل آلوده یا یک دستور پنهان‌شده در صفحه‌ای که عامل برای انجام وظیفه خود می‌خواند، می‌تواند بالقوه به بخشی از زنجیره تصمیم‌گیری عامل تبدیل شود.

ویلیسون مشخصاً پرسیده است اوپن‌ای‌آی چگونه از جلسات چت‌جی‌پتی ورک در برابر تزریق دستور محافظت می‌کند و اشاره کرده که مستندات عمومی درباره سازوکار دقیق این دفاع برای او کافی نبوده است.

او این مسئله را نه به‌عنوان اثبات یک رخنه بالفعل، بلکه به‌عنوان یک سؤال باز امنیتی درباره معماری محصول مطرح کرده است.

بررسی‌ها نشان می‌دهد که هیچ منبع معتبری گزارشی از فروپاشی لایه‌های امنیتی یا کشف آسیب‌پذیری عملیاتی در چت‌جی‌پی‌تی ورک ارائه نداده است.

آنچه وجود دارد، یک نگرانی عمیق درباره مدل تهدید است. رسانه‌های تخصصی مانند سی‌سو بریف (CISO Brief) نیز دیروز، همین موضوع را برجسته کرده و نوشتند که چت‌جی‌پی‌تی ورک قابلیت‌هایی مانند اجرای کد، اتوماسیون مرورگر، فایل‌سیستم پایدار و دسترسی اینترنتی را کنار هم قرار داده، در حالی که جزئیات عمومی دفاع آن در برابر تزریق دستور هنوز محدود است.

تدابیر امنیتی سازمانی تمام ریسک‌های ناشی از عامل را حذف نمی‌کند
در مقابل، خود شرکت اوپن‌ای‌آی نیز وجود چنین ریسک‌هایی را انکار نمی‌کند. در مستندات رسمی، این شرکت توضیح داده است که عامل‌ها هنگام اتصال به وب‌سایت‌ها و اپلیکیشن‌ها می‌توانند به داده‌هایی مانند ایمیل‌ها، فایل‌ها و تنظیمات حساب دسترسی داشته باشند و به نمایندگی از کاربر اقدام کنند؛ به همین دلیل تزریق دستور را یکی از ریسک‌های حریم خصوصی و امنیتی معرفی کرده است.

اوپن‌ای‌آی از سازوکارهایی مانند تأیید کاربر برای اقدامات پرخطر، پایش تزریق دستور، الگوهای امتناع و حالت نظارت کاربر استفاده می‌کند، اما صراحتاً می‌گوید این تدابیر همه ریسک‌ها را حذف نمی‌کنند.

از سوی دیگر، اوپن‌ای‌آی در معرفی رسمی تاکید کرده که این محصول بر پایه زیرساخت امنیتی چت‌جی‌پی‌تی اینترپرایز (ChatGPT Enterprise) ساخته شده و سازمان‌ها می‌توانند تعیین کنند عامل به چه داده‌هایی دسترسی داشته باشد، به چه ابزارهایی متصل شود و چه اقداماتی را انجام دهد.

این شرکت همچنین از رابط برنامه‌نویسی انطباق (Compliance API) برای نظارت بر مکالمات و اقدامات در مقیاس سازمانی سخن گفته است.

بنابراین مسئله این نیست که محصول بدون هیچ حفاظی منتشر شده، بلکه موضوع این است که هرچه دامنه اختیارات عامل بیشتر می‌شود، سطح حمله و پیچیدگی مسئله تزریق دستور نیز بیشتر می‌شود.

ارزیابی ریسک‌های سیستمی الزام جدید اتحادیه اروپا است
در همین نقطه، اقدام اتحادیه اروپا ابعاد تازه‌ای پیدا می‌کند. کمیسیون اروپا علت این تصمیم را رخنه در یک محصول خاص اعلام نکرده، بلکه تصمیم قانون خدمات دیجیتال از یک منطق گسترده‌تر ناشی می‌شود: چت‌جی‌پتی به دلیل مقیاس استفاده و نقش آن در جست‌وجوی اینترنتی، اکنون در طبقه VLOSE قرار گرفته و باید ریسک‌های سیستمی ناشی از سرویس و الگوریتم‌های خود را ارزیابی و کاهش دهد.

این ریسک‌ها طبق بیانیه کمیسیون شامل امنیت عمومی، حقوق بنیادین، سلامت و رفاه کاربران، انتخابات و محتوای غیرقانونی است.

خبرگزاری رویتز نیز دیروز همین چارچوب را تأیید کرده و گزارش داد که چت‌جی‌پی‌تی، ردیت و روبلاکس به دلیل عبور از آستانه ۴۵ میلیون کاربر ماهانه در اتحادیه اروپا تحت مقررات سخت‌گیرانه‌تر قرار گرفته‌اند و باید ریسک‌های مرتبط را ارزیابی و کاهش دهند.

کمیسیون همچنین اختیار نظارت بر انطباق و بررسی عملکرد کامل این سرویس‌ها را خواهد داشت.

تغییر نقش هوش مصنوعی از ابزار پاسخ‌دهنده به عامل اجرایی
کنار هم قرار دادن این دو رویداد، روایتی مهم را شکل می‌دهد: اوپن‌ای‌آی در حال تبدیل چت‌جی‌پی‌تی از یک ابزار پاسخ‌دهنده به یک عامل اجرایی است، درست در زمانی که اروپا می‌گوید اثرات سیستمی چنین سرویس‌هایی دیگر نمی‌تواند صرفاً به انتخاب کاربر و رابطه او با یک چت‌بات محدود شود.

چت‌جی‌پی‌تی ورک می‌تواند در فایل‌ها، مرورگر، اپلیکیشن‌ها و محیط‌های کاری اقدام کند؛ در سوی دیگر، اتحادیه اروپا می‌خواهد اوپن‌ای‌آی در مقیاس کل اکوسیستم خود درباره ریسک‌های سیستمی پاسخ‌گو باشد.

فاصله میان این دو موضوع اهمیت زیادی دارد. یک طرف، عامل هوش مصنوعی قرار دارد که قرار است به‌جای کاربر عمل کند؛ طرف دیگر، قانون‌گذاری‌ای قرار دارد که می‌خواهد پیامدهای سیستمی همین «عمل کردن» را ارزیابی کند.

اگر یک چت‌بات صرفاً پاسخی تولید کند، خطر عمدتاً در محتوای همان پاسخ متمرکز است؛ اما اگر عامل بتواند فایل بخواند، وب را جست‌وجو کند، کد اجرا کند، در مرورگر اقدام کند و خروجی را به محیط دیگری منتقل کند، دیگر مرز میان «اطلاعات» و «اقدام» از بین می‌رود.

کاهش نظارت انسانی مستقیم بر فرایندهای چندمرحله‌ای کاری
شرکت امنیتی هارمونیک سکیوریتی نیز در راهنمای امنیتی خود درباره چت‌جی‌پی‌تی ورک و کدکس در ۲۲ ژوئیه ۲۰۲۶ بر همین تغییر تأکید کرده بود: ورک و کدکس یک لایه عاملی مشترک ایجاد کرده‌اند که می‌تواند کار را در فایل‌ها، نرم‌افزارهای خدماتی، مرورگرها، وظایف زمان‌بندی‌شده و مسیرهای تولید و انتشار خروجی انجام دهد.
از دید این شرکت امنیتی، مسئله مهم این است که یک کارمند معمولی اکنون می‌تواند انجام یک فرایند چندمرحله‌ای را به عامل واگذار کند، در حالی که الزاماً هر مرحله توسط انسان مشاهده نمی‌شود.

مهلت چهارماهه اتحادیه اروپا به اوپن‌ای‌آی برای اجرای الزامات قانون خدمات دیجیتال در زمینه ارزیابی و کاهش ریسک‌های سیستمی، هم‌زمان با سؤالات جدی کارشناسان درباره ترکیب دسترسی به داده‌های خصوصی و قابلیت ارتباط خارجی، نشان می‌دهد که نبرد اصلی در عصر جدید، نه بر سر هوشمندی الگوریتم‌ها، بلکه بر سر میزان اختیارات و عاملیت آن‌ها در دنیای واقعی است.