فناوری سرکش تبدیل به بمب ساعتی شد
یک پژوهشگر امنیتی درمورد خودسری هوش مصنوعی و تبعات از کنترل خارجشدن این فناوری در آینده نزدیک بر مبنای یک تجربه شخصی هشدار داد.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از تک کرانچ، پژوهشگری به نام سامر یو اظهار داشت یک عامل هوش مصنوعی اوپن کلاو در صندوق ورودی ایمیل وی از کنترل خارج شده و بدون اجازه شروع به حذف پیامهای وی کرده است.وی افزوده که به عامل هوش مصنوعی اوپن کلاو دستور داده صندوق پُر از ایمیل وی را بررسی کند و پیشنهاد بدهد چه پیامهایی باید حذف یا آرشیو شوند. اما عامل هوش مصنوعی کمکم از کنترل خارج شد و حذف همهٔ ایمیلها را آغاز کرد. این عامل حتی فرمانهای توقفی که او از روی گوشی برایش میفرستاد را نادیده گرفت. این محقق امنیتی در این مورد در شبکه اجتماعی ایکس نوشت: من باید مثل کسی که میخواهد بمبی را خنثی کند، با سرعت دویدم تا به مکمینیام برسم. مک مینی رایانه ارزانقیمت شرکت اپل است که این روزها برای اجرای اوپن کلاو محبوبیت پیدا کرده است.اوپن کلاو در اصل یک عامل هوش مصنوعی متنباز است که شهرتش را از شبکهٔ اجتماعی خاصی به نام مالت بوک به دست آورده است. هدف اوپن کلاو این است که بهعنوان دستیار شخصی هوش مصنوعی روی دستگاههای خود کاربر اجرا شود.جمعی از کاربران ایکس در واکنش نسبت به این موضوع پرسیدند آیا این مشکل ناشی از تازهکار بودن هوش مصنوعی مذکور بوده است. او در پاسخ گفت: قبلاً آن را روی یک صندوق پستی آزمایشی کوچک امتحان کرده و در آنجا خوب کار میکرده، و به همین دلیل به آن اعتماد کرده بود.
به گفته این محقق، حجم زیاد دادهها در صندوق واقعیِ ایمیل باعث شد چیزی به نام فشردهسازی زمینه ای رخ دهد.در این وضعیت وقتی حجم اطلاعاتی که هوش مصنوعی باید بهخاطر بسپارد خیلی زیاد میشود، عامل مذکور شروع به خلاصهسازی، فشردهسازی و مدیریت متن کرده و ممکن است برخی دستورات حیاتی از جمله آخرین فرمان توقف کار را نادیده بگیرد.تحلیلگران معتقدند ابزار هوش مصنوعی که برای کاربردهای حرفهای مثل مدیریت ایمیل طراحی میشوند، در وضعیت فعلی ممکن است غیرقابلپیشبینی و خطرناک باشند. #هوش_مصنوعی #بمب_ساعتی #آمریکا #ایمیل
-----------------------------آخرین رویدادهای مهم فناوری را در صفحه اصلی علم و پیشرفت بخوانید.
10:07 - 5 اسفند 1404
2 بازنشر
1940 بازدید
