کلاود اپوس ۴.۶ محتوای جنسی تولید کرد
کلاود اپوس ۴.۶ برخلاف محدودیتهای اعلامشده از سوی آنتروپیک، در آزمایشهای انجامشده محتوای جنسی تولید کرد.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از تککرانچ، کلاود اپوس ۴.۶، با وجود ممنوعیت رسمی تولید محتوای جنسی صریح، در تمام ۱۰ درخواست مستقیم آزمایشی از این محدودیت عبور کرده است.آنتروپیک در قوانین استفاده از کلاود، تولید محتوای جنسی صریح، فانتزیهای جنسی و گفتوگوهای اروتیک را ممنوع کرده است. بااینحال، بررسیها نشان میدهد کلاود اپوس ۴.۶ که اوایل سال ۲۰۲۶ عرضه شد، در آزمونهای مستقیم به چنین درخواستهایی پاسخ داده و محدودیتهای تعیینشده را رعایت نکرده است.ماجرا فقط به درخواستهای مستقیم محدود نمیشود. یک پژوهشگر مستقل انگلیسی گفته در روشی چندمرحلهای با تغییر تدریجی فضای گفتوگو، مدل به سمت محتوای ممنوعه هدایت میشود. در این روش، کاربر ابتدا یک نقشآفرینی بیخطر را آغاز کرده و سپس با تکیه بر پاسخهای قبلی مدل، آن را به پذیرش درخواستهای نامجاز سوق میدهد. نکته مهم این است که آسیبپذیری فقط به اپوس ۴.۶ محدود نیست. مدلهای قدیمیتر مانند اپوس ۳ و هایکو ۴.۵ نیز در برابر همین روش آسیبپذیر گزارش شدهاند؛ در مقابل، مدلهای جدیدتر از اپوس ۴.۷ تا اپوس ۵ در آزمایشهای انجامشده در برابر این روش مقاومت نشان دادهاند.با وجود این مشکل، آنتروپیک هنوز اپوس ۴.۶، اپوس ۳ و هایکو ۴.۵ را از طریق رابط برنامهنویسی خود عرضه میکند و این مدلها در سرویسهای ابری دیگر نیز در دسترس هستند.
این موضوع از منظر ایمنی هوش مصنوعی اهمیت دارد؛ زیرا نشان میدهد وجود یک قانون مشخص در سیاستهای استفاده، الزاماً به معنای اجرای قابلاعتماد آن در تمام مکالمات نیست. این مسئله بهویژه درباره دسترسی نوجوانان اهمیت بیشتری پیدا میکند؛ موضوعی که با افزایش قوانین مربوط به جلوگیری از تعاملات جنسی چتباتها با افراد زیر سن قانونی، حساستر شده است.پژوهشگر موردنظر نیز پیشتر این اختلاف میان سیاستهای اعلامشده و عملکرد مدل را از طریق برنامه گزارش باگ و تیم ایمنی آنتروپیک گزارش کرده بود، اما به گفته تککرانچ، پاسخهایی که دریافت کرده عمدتاً خودکار بودهاند. در همین حال، اپوس ۴.۶ همچنان استفاده قابلتوجهی دارد و در یک روز از ماه اوت حدود ۱.۱۷ میلیون درخواست رابط برنامهنویسی و ۴۶ میلیارد توکن در یک سکوی ارائه مدل ثبت کرده است.#هوش_مصنوعی #آنتروپیک #کلود #امنیت_هوش_مصنوعی #ایمنی_هوش_مصنوعی #چت_بات #فناوریآخرین مطالب حوزه فناوری را در صفحه اصلی «علم و پیشرفت» بخوانید.
15:13 - 31 مرداد 1405
3 بازنشر
13٫5k بازدید