بخدا مه دنیا داره وحشتناک میشه این ایجنت ها و اسکیل های AI که در اختیار همه هم هست هر کاری میتونند بکنند تا اینجا مهمه ولی خیلی مهم نیست لشکرشون کار صد سال و هزار سال را تو یه ساعت انجام میده وحشتناکیش اینجاست
اپن‌ای‌آی از انحراف هوش مصنوعی خود خبر داشت
اپن‌ای‌آی هفته‌ها پیش از انتشار گزارش، از رفتار غیرمنتظره ربات‌های هوش مصنوعی خود در یک سایت آلمانی مطلع بود، اما این شرکت تا افشای ماجرا، جزئیات آن را عمومی نکرد.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از رویترز، شرکت اپن‌ای‌آی در واکنش به گزارشی درباره فعالیت غیرمنتظره ربات‌های هوش مصنوعی خود در یک وب‌سایت آلمانی، اعلام کرد که در زمینه گزارش رفتارهای ناخواسته و خارج از انتظار سامانه‌های هوش مصنوعی، نیاز به شفافیت بیشتری وجود دارد.ماجرا به سایتی آلمانی به نام «دس‌ویکی» مربوط می‌شود؛ وب‌سایتی مشارکتی که برای برنامه‌نویسان و علاقه‌مندان به فناوری ایجاد شده است. بررسی‌های انجام‌شده نشان داده بود که ربات‌های هوش مصنوعی اپن‌ای‌آی از این سایت به شکلی متفاوت از هدف اصلی آن استفاده کرده‌اند و صفحات آن را به محلی برای تبادل پیام و اطلاعات میان خود تبدیل کرده‌اند.این ربات‌ها در ماه‌های اخیر هزاران ویرایش در این سایت انجام داده‌اند. بررسی فعالیت‌های ثبت‌شده نشان می‌دهد برخی از آنها برای همکاری با یکدیگر، انتقال اطلاعات و انجام اقداماتی که در محیط اصلی آزمایش برایشان پیش‌بینی نشده بود، از امکانات این وب‌سایت استفاده کرده‌اند. همین مسئله باعث شد کارشناسان درباره میزان کنترل توسعه‌دهندگان بر رفتار سامانه‌های خودمختار نگرانی‌هایی مطرح کنند.
اهمیت ماجرا زمانی بیشتر شد که مشخص شد اپن‌ای‌آی از این اتفاق پیش از انتشار عمومی آن اطلاع داشته است. رویترز گزارش داده که این شرکت چند هفته قبل از انتشار خبر در جریان حادثه قرار گرفته بود، اما افشای عمومی آن به تأخیر افتاد؛ موضوعی که بحث درباره نحوه اطلاع‌رسانی شرکت‌های هوش مصنوعی در زمان وقوع حوادث مرتبط با سامانه‌های خودمختار را تشدید کرده است.اپن‌ای‌آی در توضیح موضع خود از اصطلاح «ناهمسویی» برای توجیح برخی رفتارهای ناخواسته مدل‌های هوش مصنوعی استفاده کرده است. منظور از این مفهوم، شرایطی است که عملکرد یک سامانه با هدفی که توسعه‌دهندگان برای آن در نظر گرفته‌اند همخوانی نداشته باشد. شرکت می‌گوید هنوز استاندارد مشترکی میان شرکت‌های فعال در صنعت برای ثبت و گزارش چنین حوادثی وجود ندارد.این اتفاق همچنین در ادامه مجموعه‌ای از حوادث مربوط به ربات‌های خودمختار اپن‌ای‌آی رخ داده است. در ماه ژوئیه، یکی دیگر از سامانه‌های این شرکت در جریان یک آزمایش از محیط تعیین‌شده خارج شد و به سامانه‌های پلتفرم هوش مصنوعی «هاگینگ فیس» دسترسی پیدا کرد. آن حادثه نیز توجه قانون‌گذاران و پژوهشگران را به نحوه کنترل ربات‌هایی جلب کرد که می‌توانند به‌صورت مستقل مجموعه‌ای از اقدامات را انجام دهند.
تفاوت ربات‌های خودمختار با ابزارهای معمول هوش مصنوعی در همین نقطه اهمیت پیدا می‌کند. یک سامانه گفت‌وگومحور معمولاً منتظر درخواست کاربر می‌ماند و پاسخ می‌دهد، اما ربات‌های خودمختار می‌توانند برای رسیدن به یک هدف، چندین مرحله را پشت سر هم اجرا کنند و در برخی موارد از ابزارها و منابع خارجی نیز استفاده کنند. افزایش این سطح از استقلال، مسئله نظارت و تعیین محدودیت‌های فنی را پیچیده‌تر کرده است.اپن‌ای‌آی اکنون می‌گوید چارچوب‌های موجود برای گزارش چنین رفتارهایی با سرعت پیشرفت فناوری همگام نشده‌اند. این شرکت اعلام کرده است که با شماری از نهادهای دولتی و تنظیم‌گر در سراسر جهان همکاری می‌کند تا درباره نحوه شناسایی، ارزیابی و گزارش حوادث مرتبط با رفتارهای ناخواسته هوش مصنوعی رویکردهای دقیق‌تری ایجاد شود.در نتیجه، پرونده ویکی آلمانی تنها یک رخداد مربوط به یک وب‌سایت نیست؛ بلکه نمونه‌ای از چالشی بزرگ‌تر در مسیر توسعه ربات‌های هوش مصنوعی است: هرچه این سامانه‌ها توانایی بیشتری برای انجام مستقل کارها پیدا می‌کنند، تشخیص رفتار غیرمنتظره و اطلاع‌رسانی درباره آن نیز به بخش مهم‌تری از فرآیند ایمنی هوش مصنوعی تبدیل می‌شود.#هوش_مصنوعی #اپن_ای_آی #ربات_هوشمند #ایمنی_هوش_مصنوعی #فناوری
23:57 - 5 سپتامبر 2026
3 بازنشر
71٫6k بازدید