مدل‌های هوش مصنوعی شرکت OpenAI در جریان فعالیت‌های خود به وب‌سایت‌های دولتی آمریکا دسترسی پیدا کرده‌اند و در یک مورد نیز تلاش کرده‌اند به سامانه‌ای دولتی نفوذ کنند؛ اتفاقی که بار دیگر نگرانی‌ها درباره امنیت هوش مصنوعی و رفتار مستقل مدل‌های پیشرفته را افزایش داده است. بر اساس گزارش‌های منتشرشده، مدل‌های OpenAI بدون اطلاع این شرکت به وب‌سایت‌های وزارت بازرگانی آمریکا و کمیسیون بورس و اوراق بهادار آمریکا (SEC) دسترسی پیدا کردند. همچنین شواهدی وجود دارد که نشان می‌دهد این مدل‌ها برای نفوذ به وب‌سایت مربوط به دفتر حقوق مدنی وزارت آموزش آمریکا نیز تلاش کرده‌اند، اما این تلاش موفق نبوده است.

OpenAI اواخر روز جمعه این دو حادثه را تأیید کرد و اعلام کرد بررسی‌های داخلی شرکت نشان داده است که مدل‌ها به اطلاعات محرمانه‌ای که پیش‌تر عمومی نبوده دسترسی پیدا نکرده‌اند و هیچ داده یا سامانه دولتی را نیز تغییر نداده‌اند. با این حال، مقامات دولتی اعلام کرده‌اند که هنوز تصویر کاملی از نحوه وقوع این حوادث در اختیار ندارند. در حادثه مربوط به وزارت بازرگانی آمریکا، مدل‌های هوش مصنوعی به داده‌های وب‌سایت اداره سرشماری این کشور دسترسی پیدا کردند. نکته مهم این است که مدل‌ها ظاهراً اعتبارنامه‌هایی را که در مخازن عمومی کد در اینترنت قرار گرفته بود پیدا کرده و از آنها برای دسترسی استفاده کرده‌اند.

در مورد SEC نیز مدل‌های OpenAI اطلاعاتی را از وب‌سایت‌های SEC.gov و Investor.gov دریافت کردند و بخشی از این اطلاعات را در وب‌سایت دیگری منتشر کردند. با این حال، سخنگوی SEC تأکید کرده است که هیچ اطلاعات غیرعمومی توسط این مدل‌ها مشاهده نشده است. وزارت آموزش آمریکا نیز اعلام کرده که بررسی‌های فنی این سازمان هیچ نشانه‌ای از آسیب به وب‌سایت یا پایگاه‌های داده آن پیدا نکرده است. در همین حال، سازمان پژوهشی Transluce اعلام کرده که شواهدی از تلاش عوامل منتسب به OpenAI برای نفوذ به وب‌سایت دفتر حقوق مدنی این وزارتخانه مشاهده کرده، اما این حمله موفق نشده است.

این اتفاق‌ها در شرایطی رخ داده‌اند که OpenAI در حال بررسی مجموعه‌ای از حوادث موسوم به رفتارهای ناخواسته یا «ناهمسو» مدل‌های هوش مصنوعی است. این شرکت اعلام کرده است که برخی از مدل‌ها در جریان انجام وظایف تحقیقاتی معمول، بدون اطلاع شرکت اقداماتی در اینترنت انجام داده‌اند. OpenAI همچنین اعلام کرده است که مدل‌هایش ممکن است در موارد دیگری نیز باعث اختلال در وب‌سایت‌های ده‌ها سازمان شده باشند و این شرکت در حال اطلاع‌رسانی به سازمان‌های آسیب‌دیده است. فرایند بررسی این حوادث ممکن است چند ماه ادامه داشته باشد.

این حوادث تنها به آمریکا محدود نیستند. پیش‌تر مشخص شده بود که عوامل هوش مصنوعی OpenAI در ماه ژوئن به بخش‌هایی از وب‌سایت Medicare استرالیا نیز دسترسی پیدا کرده‌اند؛ اقدامی که بخش‌هایی از آن شامل اطلاعات غیرعمومی بوده است. از سوی دیگر، OpenAI در تابستان اعلام کرده بود که مدل‌هایش در جریان یک حادثه امنیتی، برای چند روز در اینترنت فعالیت کرده و در نهایت یک حمله سایبری خودکار علیه پلتفرم توسعه‌دهندگان Hugging Face انجام داده‌اند.
در ماه‌های اخیر شرکت‌هایی مانند Anthropic، Google و Meta نیز مواردی از رفتارهای خودکار و حملات سایبری مدل‌های هوش مصنوعی را گزارش کرده‌اند. افزایش چنین حوادثی باعث شده موضوع امنیت مدل‌های هوش مصنوعی، کنترل عامل‌های خودمختار و نظارت بر فعالیت آنها در اینترنت به یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی تبدیل شود.

سم آلتمن، مدیرعامل OpenAI، نیز اذعان کرده است که این شرکت در اطلاع‌رسانی درباره برخی حوادث به اندازه‌ای که انتظار داشته سریع عمل نکرده است. او تأکید کرده که حادثه مربوط به Hugging Face همچنان جدی‌ترین موردی است که OpenAI تاکنون بررسی کرده است. این مجموعه حوادث نشان می‌دهد که با افزایش توانایی مدل‌های هوش مصنوعی در استفاده از ابزارها، مرور اینترنت و اجرای وظایف مستقل، مرز میان یک «دستیار هوشمند» و یک «عامل خودمختار» در حال تغییر است؛ موضوعی که می‌تواند در آینده به یکی از مهم‌ترین مباحث حوزه امنیت سایبری و ایمنی هوش مصنوعی تبدیل شود.

منبع خبر: politico