هوش‌مصنوعی در آزمایشگاه از کنترل خارج شد

اپن‌ای‌آی اعلام کرد یکی از عامل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی، با عبور از محدودیت‌های محیط ایزوله یک حمله سایبری را اجرا کرد.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از رویترز، اپن‌ای‌آی اعلام کرد یکی از عامل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی از محیط ایزوله خارج شد، به اینترنت دسترسی پیدا کرد و زیرساخت‌های پلتفرم «هاگینگ فیس» را هدف قرار داد؛ رخدادی که این شرکت آن را «بی‌سابقه» توصیف کرده است.اپن‌ای‌آی در یک پست وبلاگی توضیح داد این عامل هوش مصنوعی برای ارزیابی توانایی‌های سایبری مدل‌های پیشرفته در یک محیط کنترل‌شده در حال آزمایش بود، اما موفق شد محدودیت‌های محیط ایزوله را دور بزند، به اینترنت متصل شود و برای انجام مأموریت تعریف‌شده خود به سامانه‌های هاگینگ فیس نفوذ کند. این شرکت اعلام کرد پس از این رخداد، تدابیر حفاظتی خود را تقویت کرده است.هاگینگ فیس، که یکی از مهم‌ترین بسترهای میزبانی مدل‌ها و مجموعه‌داده‌های متن‌باز هوش مصنوعی به شمار می‌رود، هفته گذشته از حمله‌ای خبر داده بود که به گفته این شرکت، از ابتدا تا انتها توسط یک «عامل هوش مصنوعی خودمختار» انجام شده و با حملات پیشین تفاوت داشته است.کلمان دلانگ، هم‌بنیان‌گذار هاگینگ فیس، پس از افشای این موضوع اعلام کرد این شرکت از ابتدا احتمال می‌داد حمله توسط یکی از آزمایشگاه‌های پیشرفته هوش مصنوعی انجام شده باشد و خودکار بودن کامل این عملیات را «شگفت‌انگیز» توصیف کرد. این افشاگری نگرانی‌ها درباره توانایی‌های تهاجمی مدل‌های هوش مصنوعی پیشرفته را افزایش داده و بار دیگر بحث ضرورت اعمال مقررات و تقویت سازوکارهای ایمنی برای این فناوری را در آمریکا داغ کرده است.#هوش_مصنوعی #اپن_ای_آی #امنیت_سایبری #هک #هاگینگ_فیسآخرین مطالب حوزه فناوری را در صفحه اصلی «علم و پیشرفت» بخوانید.
11:02 - 31 تیر 1405
علم و پیشرفت
علم و فناوری
هوش مصنوعی

9 بازنشر13 واکنش
92٫5k بازدید



14 پاسخ

@Alirezarezaei1231 تیر 1405
وابستگی ایرانی ها به سرویس های اینترنتی امریکایی تهدید است.چرا در دولت روحانی، کاری کردند که اینستاگرام، سکو اصلی فعالیت ایرانی ها باشد!داده های ایرانی در آن بلادرنگ در اختیار اسرائیل قرار می گیردمسولین در خواب

تصویر نمایه‌ی ‌وطن پرست صبور‌
@Vatanparast_sabour31 تیر 1405
در پاسخ به
هوش مصنوعی زنگ خطر جدی برای موجودیت بشر روی کره زمینهمخصوصا وقتی کنترل همه چیزو‌ به دست بگیره

@user17835986243931 تیر 1405
در پاسخ به
هوش مصنوعی + الکترومکانیک =فاجعه بشری خیلی باید دقت کرد اگر پیشرفت بی رویه اون تو بعضی حوزه ها گرفته نشه جان انسان ها در خطر می افته ! شما فکر کن یه هوش مصنوعی ساخته بشه که از اسقاطیلی ها آموزش ببینه ! کار بشر تمومه

تصویر نمایه‌ی ‌پژمان‌
@pejmaaaan31 تیر 1405
در پاسخ به
خوب همین هوش مصنوعی دست ارتش آمریکا هم هست .بعد شما دنبال عامل نفوذ به 4 تا بانک کشور میگردید ؟؟

@Power_Progress_Pride31 تیر 1405
در پاسخ به
کشوری که تحت شدیدترین حملات نظامی، اقتصادی، تروریستی، امنیتی، سایبری، بانکی... هست، نت آمریکایی را همه گیر کرده و دلش به فیلتر خوش استآمریکا با اینکه خود سازنده نت است، اجازه هیچ پلتفرم خارجی را نمیدهد و نت تحت کنترل آژانس امنیت ملی NSA استباید:نت ملی فراگیر، نت آمریکایی محدود و زیر کنترل اطلاعات

@binam131 تیر 1405
در پاسخ به
داره فیلم #اطلس به وقوع میپیونده

در پاسخ به
هیچی دیگه میخان خرابکاری کنن بندازن گردن ترمیناتور

تصویر نمایه‌ی ‌احسان سلطانی‌
@user17705752576631 تیر 1405
در پاسخ به
اول باید از پشت پرده خبر داشت که آیا همچین چیزی امکان دارد یا مانند فیلم هایی که می‌سازند می‌خواهند چیزی را در کله خلق الله کنند که بله اتفاق هایی در آینده می افتد که مقصر ندارد

تصویر نمایه‌ی ‌سرباز و فدائی ولایت فقیه‌
@Sarbazevelayatmadar31 تیر 1405
در پاسخ به
وای به روزی که هوش مصنوعی در ربات های ادم نما رسوخ کند . مثل اون فیلم سینمایی همه مان را به سیخ میکشند

@Shabah31 تیر 1405
در پاسخ به
هوش مصنوعی ابزار... اون طراح عوضی که حملات سایبری رو پرامپ نویسی کرده مسئوله... خدا میدونه تو محیط أزمایشگاهی چه غلطی میخواستن بکنن که هوش مصنوعی رسواشون کرد

@Meysam131 تیر 1405
در پاسخ به
چرا به ما میگن

@user17724530138331 تیر 1405
در پاسخ به
چرا حس میکنم این داستان دروغه؟

@Will11 مرداد 1405
در پاسخ به
هوش مصنوعی در علم بیونیک و از شبیه سازی دستگاه عصبی مرکزی انسان (مغز) ، ساخته شده است . اگر کشورهای گوناگون به ویژه ایران ، قوانین و پروتکل های دقیق و سخت گیرانه ای بر این فناوری (انسان محور) اعمال نکنند ، دوباره شاهد وقایعی مشابه سوءاستفاده رژیم صهیونیستی از این علم برای کشتار انسان ها خواهیم بود .