در یکی از مهم‌ترین تحولات سال ۲۰۲۶ در حوزه هوش مصنوعی (AI)، بیش از ۱۱۰۰ پژوهشگر، مهندس و متخصص برجسته این صنعت با انتشار نامه‌ای سرگشاده از دولت ایالات متحده خواسته‌اند اقدامات جدی‌تری برای مدیریت و کنترل توسعه مدل‌های پیشرفته هوش مصنوعی انجام دهد. امضاکنندگان این نامه از شرکت‌ها و مؤسسات شناخته‌شده‌ای مانند OpenAI، Google DeepMind، Anthropic و Meta هستند و معتقدند سرعت فعلی پیشرفت فناوری AI می‌تواند خطرات قابل‌توجهی برای امنیت، اقتصاد و جامعه به همراه داشته باشد.

در این نامه تأکید شده است که رقابت شدید میان شرکت‌های فناوری برای عرضه مدل‌های قدرتمندتر، باعث شده توجه کافی به موضوع ایمنی هوش مصنوعی و ارزیابی خطرات آن نشود. به باور این متخصصان، توسعه سیستم‌هایی که توانایی تصمیم‌گیری، برنامه‌ریزی و انجام وظایف پیچیده را دارند، باید همراه با نظارت دقیق، آزمایش‌های امنیتی و چارچوب‌های قانونی شفاف باشد.

یکی از مهم‌ترین درخواست‌های مطرح‌شده، ایجاد همکاری بین‌المللی برای تدوین استانداردهای مشترک در زمینه توسعه و استفاده از مدل‌های پیشرفته AI است. امضاکنندگان هشدار داده‌اند که رقابت میان کشورها برای دستیابی به فناوری‌های هوش مصنوعی نباید باعث نادیده گرفتن ملاحظات ایمنی شود، زیرا پیامدهای احتمالی این فناوری می‌تواند فراتر از مرزهای یک کشور باشد. متخصصان همچنین بر این باورند که دولت‌ها باید پیش از عرضه گسترده مدل‌های بسیار قدرتمند، سازوکارهایی برای ارزیابی ریسک، بررسی قابلیت‌های این سیستم‌ها و تعیین مسئولیت شرکت‌های توسعه‌دهنده ایجاد کنند. آن‌ها تأکید می‌کنند که نبود قوانین مشخص، ممکن است در آینده مشکلات حقوقی، امنیتی و اجتماعی گسترده‌ای ایجاد کند.

از دیگر نگرانی‌های مطرح‌شده در این نامه می‌توان به سوءاستفاده از هوش مصنوعی در حملات سایبری، تولید اطلاعات نادرست، جعل محتوای دیجیتال، کلاهبرداری‌های اینترنتی و استفاده از مدل‌های هوشمند در فعالیت‌های مخرب اشاره کرد. به اعتقاد نویسندگان نامه، هرچه مدل‌های هوش مصنوعی قدرتمندتر شوند، احتمال سوءاستفاده از آن‌ها نیز افزایش خواهد یافت؛ بنابراین لازم است هم‌زمان با توسعه فناوری، ابزارهای نظارتی و امنیتی نیز تقویت شوند. این درخواست به معنای توقف کامل پیشرفت هوش مصنوعی نیست. امضاکنندگان تصریح کرده‌اند که هدف آن‌ها جلوگیری از نوآوری یا محدود کردن تحقیقات علمی نیست، بلکه خواهان توسعه مسئولانه فناوری هستند؛ رویکردی که در آن رشد سریع AI با رعایت اصول ایمنی، شفافیت و پاسخ‌گویی همراه باشد.

در سال‌های اخیر، پیشرفت مدل‌های مولد هوش مصنوعی، عامل‌های هوشمند (AI Agents) و سیستم‌های چندمنظوره باعث شده بحث درباره مدیریت ریسک این فناوری بیش از گذشته مورد توجه دولت‌ها و نهادهای قانون‌گذار قرار گیرد. بسیاری از کارشناسان معتقدند فناوری هوش مصنوعی می‌تواند تحول بزرگی در حوزه‌هایی مانند پزشکی، آموزش، صنعت و تحقیقات علمی ایجاد کند، اما در صورت نبود قوانین مناسب، همین فناوری ممکن است به تهدیدی برای امنیت دیجیتال، بازار کار و اعتماد عمومی تبدیل شود.

انتشار این نامه نشان می‌دهد که حتی بخشی از متخصصان فعال در بزرگ‌ترین شرکت‌های هوش مصنوعی جهان نیز معتقدند توسعه فناوری باید با مسئولیت‌پذیری بیشتری دنبال شود. اکنون انتظار می‌رود دولت آمریکا و سایر کشورها با همکاری شرکت‌های فناوری، چارچوب‌هایی برای نظارت بر توسعه مدل‌های پیشرفته AI تدوین کنند تا ضمن حفظ روند نوآوری، از بروز خطرات احتمالی نیز جلوگیری شود. این اقدام را می‌توان یکی از مهم‌ترین تلاش‌های جامعه علمی برای ایجاد تعادل میان سرعت پیشرفت فناوری و حفظ امنیت عمومی دانست؛ موضوعی که احتمالاً در سال‌های آینده نقش مهمی در آینده صنعت هوش مصنوعی و سیاست‌گذاری‌های جهانی خواهد داشت.

منبع خبر: reuters