چتجیپیتی سازندهاش را هم ترساند
اپنایآی که زمانی با برخی قوانین سختگیرانه ایمنی هوش مصنوعی مخالفت میکرد، حالا موضعش را تغییر داده و خواستار تقویت قوانین کالیفرنیا شده است؛ چرخشی که پس از افزایش نگرانیها درباره رفتار و تواناییهای مدلهای پیشرفته این شرکت رخ داده است.
گروه علم و پیشرفت خبرگزاری فارس- شرکت اپنایآی که سال گذشته با قانون ایمنی هوش مصنوعی کالیفرنیا موسوم به SB 53 مخالفت کرده بود، اکنون در تغییر موضعی قابلتوجه از قانونگذاران این ایالت خواسته تا الزامات این قانون را تشدید کنند. تیم امور جهانی این شرکت در پستی خواستار افزودن ضمانتهای بیشتر به این قانون شده، از جمله الزام به رصد مدلهای پیشرفته در حین آموزش یا ارزیابی برای شناسایی حوادث جدی احتمالی و تقویت حفاظتهای سایبری در طول چرخه توسعه مدلها.این چرخش موضع از آنجا قابل تأمل است که اپنایآی پیشتر به این قانون که الزامات شفافیت و حمایت از افشاگران را بر شرکتهای بزرگ هوش مصنوعی تحمیل میکند، مخالفت کرده بود؛ در حالی که رقیب اصلی آن، آنتروپیک، از همان ابتدا حامی این لایحه بود. اپنایآی در توضیح این تغییر رویکرد به «حوادث اخیر» اشاره کرده که به گفته این شرکت هم ضرورت این حفاظتها و هم اهمیت بهروزرسانی آنها را با ظهور خطرات جدید نشان میدهند.
این اظهارنظر نشان میدهد اپنایآی اکنون ترجیح میدهد بهجای خلأ کامل قانونگذاری در سطح کنگره آمریکا، با مقررات ایالتی همراه شود؛ رویکردی که پیشتر از آن پرهیز میکرد.زمینه این تغییر موضع چه بوداین قانون، که سال گذشته توسط فرماندار کالیفرنیا امضا و لازمالاجرا شد، از ابتدا محل اختلاف میان غولهای فناوری بود. آنتروپیک، بهعنوان یکی از رقبای اصلی اپنایآی، از همان زمان تصویب این لایحه از آن حمایت کرده بود، در حالیکه اپنایآی در صف مخالفان قرار داشت. این اختلاف موضع اکنون رنگ باخته و اپنایآی عملاً به جبهه حامیان مقررات سختگیرانهتر پیوسته است.حادثهای که شاید محرک اصلی بوده استنکتهای که در بیانیه اپنایآی به آن اشاره غیرمستقیم شده، رخدادی امنیتی در ماه گذشته است: به گفته این شرکت، یکی از مدلهای آن از محیط آزمایشی خود خارج شده و به سیستمهای هاگینگفیس نفوذ کرده بود. این اعتراف، که خود اپنایآی آن را منتشر کرد، یکی از نخستین مواردی است که یک شرکت پیشرو در حوزه هوش مصنوعی بهصراحت از خروج یک مدل از محدوده کنترلشدهاش سخن میگوید؛ موضوعی که مدتهاست نگرانی پژوهشگران ایمنی هوش مصنوعی درباره «مدلهای سرکش» را تقویت کرده است.
بحران اعتماد در صنعت هوش مصنوعیاین تغییر موضع اپنایآی در حالی رخ میدهد که آزمایشگاههای پیشرو هوش مصنوعی همچنان از پاسخگویی روشن درباره چگونگی مهار یک مدل سرکش طفره میروند. این همزمانی نشان میدهد که ادعای «مسئولیتپذیری» شرکتهایی مانند اپنایآی هنوز با ابهامهای جدی درباره سازوکارهای عملیاتی کنترل هراه است؛ پرسشی که فراتر از یک لایحه ایالتی، به آینده حکمرانی جهانی هوش مصنوعی و از جمله کاربردهای حساس آن در حوزههای امنیتی و نظامی گره میخورد.
قانون SB 53 چیست و چرا محل بحث است؟قانون SB 53 که با نام رسمی «قانون شفافیت در هوش مصنوعی پیشرفته» شناخته میشود، توسط سناتور اسکات وینر از حزب دموکرات پیشنهاد و در ۲۹ سپتامبر ۲۰۲۵ توسط گاوین نیوسام، فرماندار کالیفرنیا، امضا و لازمالاجرا شد. این قانون که نخستین قانون از نوع خود در آمریکاست، الزامات شفافیت را بر آزمایشگاههای بزرگ هوش مصنوعی از جمله اپنایآی، آنتروپیک، متا و گوگل دیپمایند تحمیل میکند و آنها را ملزم میسازد درباره پروتکلهای ایمنی خود شفاف باشند، ضمن آنکه از افشاگران درون این شرکتها نیز حمایت قانونی میکند. بر اساس این قانون، شرکتهایی مشمول آن میشوند که مدلهای خود را با قدرت پردازشی بیش از ۱۰ به توان ۲۶ عملیات محاسباتی آموزش داده باشند و درآمد سالانهشان (به همراه شرکتهای وابسته) در سال گذشته بیش از ۵۰۰ میلیون دلار بوده باشد. این آستانه محاسباتی از دستور اجرایی سال ۲۰۲۳ کاخ سفید درباره هوش مصنوعی الگو گرفته و حتی از استاندارد قانون هوش مصنوعی اتحادیه اروپا نیز سختگیرانهتر است.از نظر محتوایی، این قانون شرکتهای بزرگ را موظف میکند یک «چارچوب هوش مصنوعی پیشرفته» در سطح کل شرکت تدوین و منتشر کنند که در آن نحوه شناسایی، ارزیابی و کاهش ریسکهای فاجعهبار مدلهایشان توضیح داده شده باشد، گزارشهای شفافیت منتشر کنند و حوادث ایمنی حساس را بهطور منظم به نهادهای نظارتی کالیفرنیا گزارش دهند. بر اساس تعریف این قانون، «ریسک فاجعهبار» شامل مرگ یا آسیب به دستکم ۵۰ نفر یا خسارت مالی بیش از یک میلیارد دلار ناشی از عملکرد یک مدل هوش مصنوعی است.
مهلت گزارشدهی حوادث بحرانی نیز ۱۵ روز تعیین شده و تخلف از آن میتواند تا سقف یک میلیون دلار جریمه برای هر مورد در پی داشته باشد. نکته مهم برای درک مسیر این قانون آن است که SB 53 در واقع نسخه تعدیلشده لایحه بسیار سختگیرانهتری به نام SB 1047 است که در سال ۲۰۲۴ مطرح شد اما با مخالفت شدید شرکتهای فناوری روبهرو و توسط نیوسام وتو شد. آن لایحه قبلی خواستار پروتکلهای ایمنی پیش از آموزش مدل، ممیزی توسط نهادهای ثالث و قابلیت «کلید خاموشکردن فوری» مدلها بود؛ اما SB 53 این بندها را حذف کرد، مهلت گزارشدهی را تا ۱۵ روز افزایش داد و سقف جریمهها را به یک میلیون دلار محدود کرد تا شانس تصویب آن در برابر فشار صنعت افزایش یابد.از سوی دیگر، این قانون در بدو تصویب واکنشهای دوگانهای در صنعت برانگیخت. شرکتهای فناوری بهطور کلی استدلال کرده بودند که چنین مقرراتی میتواند نوآوری را آهسته کند، در حالیکه آنتروپیک از معدود شرکتهای بزرگی بود که علنا از این لایحه حمایت کرد. اکنون، حمایت جدید اپنایآی از تشدید همین قانون که پیشتر با آن مخالف بود، این پرونده را بار دیگر به کانون توجه رسانهها و ناظران صنعت هوش مصنوعی بازگردانده است.
#اپن_ای_آی #چت_جی_پی_تی #هوش_مصنوعی #ایمنی_هوش_مصنوعی #قانون_گذاری #فناوری #کالیفرنیا #هوش_مصنوعی_مولدآخرین مطالب حوزه فناوری را در صفحه اصلی «علم و پیشرفت» بخوانید.
15:38 - 23 اوت 2026