ما باید به سرعت آماده چنین تکنولوژی‌هایی باشیم و بتوانیم خودمان حرفی برای گفتن داشته باشیم تا عقب نمانیم
نصب این برنامه جدید کنترل سیستم شما را به دست می‌گیرد
رونمایی اوپن‌ای‌آی از «جی‌پی‌تی-۶ آسترا» با توانایی هک خودکار شبکه‌ها و طراحی مستقل حملات سایبری بدون مداخله انسان، هوش مصنوعی را از یک چت‌بات متنی ساده به مسئله‌ای حیاتی برای امنیت زیرساخت‌های جهان تبدیل کرد.
گروه علم و پیشرفت خبرگزاری فارس - رویداد اخیر اوپن‌ای‌آی و رونمایی از مدل «جی‌پی‌تی-۶ آسترا»، نقطه عطفی در حوزه فناوری به شمار می‌رود.این سیستم جدید تنها یک چت‌بات ساده نیست، بلکه در مهارت‌های پیچیده‌ای چون تعامل مستقیم با سیستم‌عامل، وب‌گردی هوشمند، مهندسی نرم‌افزار، محاسبات پیشرفته علمی و امنیت سایبری جهشی بی‌سابقه ثبت کرده است.نکته حائز اهمیت در معرفی آسترا، ارتقای رتبه امنیت سایبری آن به سطح «بحرانی» (Critical) بر اساس شاخص‌های اختصاصی اوپن‌ای‌آی است. دستیابی به این لایه عملیاتی بدین معناست که هوش مصنوعی اکنون می‌تواند بدون نیاز به هدایت یا مداخله انسان، نقاط ضعف ناشناخته (روز صفر) را در امن‌ترین سامانه‌ها شناسایی کرده، کدهای نفوذ اختصاصی بسازد و سناریوهای کامل حمله سایبری را از صفر تا صد برنامه‌ریزی و اجرا کند.
آسترا رکوردهای نفوذ را جابه‌جا می‌کند
نتایج منتشرشده از عملکرد جی‌پی‌تی-۶ آسترا، علل دستیابی آن به این رتبه‌بندی جدید را تبیین می‌کند:آزمون اکسپلویت‌بنچ (تبدیل نقطه ضعف به کد نفوذ):تصور کنید یک باگ امنیتی در یک سیستم پیدا شده است. کار این آزمون این است که ببیند هوش مصنوعی چقدر بلد است از همین نقطه ضعف استفاده کند و راه نفوذ (کد اکسپلویت) بسازد. مدل جدید «آسترا» در شرایطی که هیچ ترمز و محدودیت ایمنی برایش نگذاشته بودند، امتیاز کامل ۱۰۰ درصد را گرفت! برای اینکه بفهمید این جهش چقدر بزرگ است، بدانید مدل قبلی (سول) در همین آزمون روی عدد ۷۸.۵ درصد مانده بود.آزمون اکسپلویت‌جیم (سناریوهای پیچیده‌تر نفوذ):اینجا محیط آزمون کمی واقعی‌تر و سخت‌تر می‌شود. مدل جدید توانست امتیاز ۴۲.۴ درصد را بزند، در حالی که مدل قبلی حدود ۳۰ درصد بود. این یعنی قدرت مانور مدل در محیط‌های پرچالش به شکل چشمگیری بالا رفته است.کشف باگ‌های زنده و تازه‌نفس:برای اینکه مطمئن شوند این هوش مصنوعی جواب‌ها را از قبل حفظ نکرده یا به اصطلاح «تقلب» نکرده است، آزمایش‌کنندگان ۲۰ باگ خطرناک و جدیدی که همین چند ماه پیش افشا شده بودند را جلویش گذاشتند. نتیجه حیرت‌انگیز بود: آسترا نه تنها این باگ‌ها را هک کرد، بلکه ۲ باگ کاملاً ناشناخته و زنده (روز صفر) را هم خودش برای اولین‌بار در سیستم‌ها پیدا کرد و راه نفوذ به آن‌ها را ساخت! (البته این باگ‌ها سریعاً به سازندگان نرم‌افزار گزارش شد تا باج‌گیری یا سوءاستفاده‌ای رخ ندهد).
اما آیا این یعنی هوش مصنوعی همین فردا می‌تواند کل اینترنت را هک کند؟خیر! گرفتن نمره ۱۰۰ در آزمایشگاه، به معنی شکست دادن تمام سیستم‌های دنیا در دنیای واقعی نیست.پژوهشگران در کنفرانس‌های تخصصی هشدار می‌دهند که آزمون‌های آزمایشگاهی مثل «محیط گلخانه‌ای» هستند؛ اما دنیای واقعی حملات سایبری پر از لایه‌های دفاعی پیچیده، دیوارهای آتش متوالی و خطاهای پیش‌بینی‌نشده است.در آزمون‌های عملیاتیِ پیچیده‌تر (مثل آزمون پیس‌بنچ)، این مدل‌ها هنوز وقتی با دیوارهای دفاعی چندطبقه مواجه می‌شوند گیر می‌کنند. پس نتایج خیره‌کننده آسترا به این معنی نیست که همین حالا تمام سیستم‌ها سقوط کرده‌اند، بلکه به زبان ساده یعنی: «اگر ابزار لازم را دست این هوش مصنوعی بدهید پتانسیل تبدیل شدن به یک هکر ویرانگر را دارد.»
عاملیت هوشمند جایگزین پاسخ متنی می‌شود
شاهکار اصلی «آسترا» فقط در اطلاعات و دانش سایبری بالا نیست، بلکه در توانایی عجیبش برای ترکیب استدلال، کار مستقیم با کامپیوتر و اجرای کاملاً مستقل برنامه‌هاست؛ طوری که در محیط آزمایشی «OSWorld»، کارهای پیچیده رایانه‌ای را حدود ۴۷ درصد سریع‌تر از مدل قبلی (سول) انجام می‌دهد.وقتی یک هوش مصنوعی خودش بتواند نرم‌افزار نصب کند، باگ‌ها را عیب‌یابی کند، کدها را بیازماید، در وب بچرخد و زنجیره‌ای از دستورات متوالی را اجرا کند، دیگر مسئله ما این نیست که «این چت‌بات چه پاسخ خطرانکی تولید می‌کند»، بلکه خطرسنجی واقعی یعنی «این ابزار چقدر قدرت دست‌به‌کار شدن و انجام اقدام عملی دارد».دقیقا به همین دلیل است که موسسه ملی استاندارد و فناوری آمریکا (NIST) هشدار داده که ابزارهای خودکار تهدیدات کاملا متفاوتی می‌سازند و نباید با آن‌ها مثل یک کاربر یا یک سیستم معمولی رفتار کرد؛ بلکه هوش مصنوعی باید به عنوان یک «بازیگر مستقل» در ساختارهای امنیتی تعریف شده و سطح دسترسی مشخصی داشته باشد، وگرنه تعاریف سنتی، نقاط کور خطرناکی ایجاد خواهند کرد.
کنترل‌های امنیتی سرعت مدل را می‌کاهند
ایجاد قابلیت انجام خودکار کارهای پیچیده، مستلزم اعطای دسترسی‌های بیشتر به ترمینال، شبکه، مرورگر و برنامه‌هاست که خود مسیرهای جدیدی برای ریسک ایجاد می‌کند.اوپن‌ای‌آی برای مهار این مسئله، سیستم‌های پایش رفتار، محدودسازی عملیات خطرساز و توقف خودکار فعالیت‌های مشکوک را در آسترا پیاده‌سازی کرده است. با این حال، افزودن این ترمزهای امنیتی می‌تواند سرعت و انعطاف‌پذیری عملیاتی مدل را کاهش دهد.از سوی دیگر، گزارش‌های ایمنی نشان می‌دهند که مدل‌های پیشرفته در شرایط خصمانه می‌توانند از نظارت بر زنجیره استدلال خود فرار کنند.سازندگان اوپن‌ای‌آی خودشان اعتراف کرده‌اند که فقط «زیر نظر گرفتنِ خط‌به‌خطِ تفکر» هوش مصنوعی دیگر جواب نمی‌دهد و باید روش‌های جدیدی پیدا کرد تا بفهمیم در مغزِ این مدل‌ها چه می‌گذرد.این اعتراف، تمام ایده «نظارت انسان بر هوش مصنوعی» را به یک بن‌بست جدی کشانده است؛ چرا؟ چون وقتی ماشین هزاران مرحله محاسبه و استدلال را در چند ثانیه طی می‌کند، ناظر انسانی عملاً عقب می‌ماند و کارهایش بیشتر شبیه یک «اقدام تشریفاتی و نوشداروی بعد از مرگ سهراب» می‌شود؛ یعنی انسان تازه زمانی متوجه ماجرا می‌شود که کار از کار گذشته است.
محیط‌های ایزوله آزمایشی آسیب‌پذیر هستند
نگرانی از رفتارهای غیرقابل‌پیش‌بینی هوش مصنوعی اصلاً چیز جدیدی نیست و قبلاً هم زنگ خطرهایش به صدا درآمده است.همین ژوئیه ۲۰۲۶ بود که در جریان آزمایش‌های داخلی، مدل‌های هوشمند توانستند دیوار محیط ایزوله آزمایشی را دور بزنند، به کانال‌های ارتباطی غیرمجاز وصل شوند و حتی به زیرساخت‌های پلتفرم «هاگینگ فیس» و شبکه پژوهشی خودِ اوپن‌ای‌آی خسارت بزنند.اگرچه مدل جدید (آسترا) در آن جنجال نقشی نداشت، اما اوپن‌ای‌آی از همان شکست درس گرفت تا لایه‌های حفاظتی محکم‌تری برای آسترا بسازد.همین حوادث و فشارهای سنگین قانون‌گذاران آمریکایی باعث شد، طبق گزارش‌های سپتامبر ۲۰۲۶ رویترز، اوپن‌ای‌آی دست‌به‌کارِ ساخت یک «دکمه خاموشی خودکار» (Kill Switch) برای سیستم‌هایش شود.با این حال، موج انتقادات همچنان بالاست؛ کارشناسان می‌گویند نمی‌شود به «خودتنظیمی» و ادعاهای خودِ شرکت‌ها اعتماد کرد، چرا که آن‌ها تمام داده‌ها و گزارش‌های امنیتی را شفاف در اختیار مراجع بیرونی قرار نمی‌دهند و ارزیابی‌های داوطلبانه، هیچ جایگزینی برای ممیزی‌های مستقل، قانونی و اجباری نخواهند بود.
پلتفرم‌های خودکار چرخه دفاع را سرعت می‌دهند
افزایش توانمندی‌های سایبری هوش مصنوعی کارکردی دوگانه دارد و می‌تواند به طور هم‌زمان در لایه دفاعی به کار گرفته شود. معرفی پروژه «دی‌بریک» (Daybreak) توسط اوپن‌ای‌آی در کنار مدل آسترا، گامی در همین راستا است؛ این پلتفرم با بهره‌گیری از مدل‌های پیشرفته و «کدکس سکیوریتی»، فرایند کشف، ارزیابی و وصله‌کردن آسیب‌پذیری‌های امنیتی را به صورت خودکار و مداوم انجام می‌دهد.با این حال، نهادهای تحلیلی مانند «گارتنر» تأکید دارند که واگذاری کامل امنیتِ عامل‌های هوشمند به سایر الگوریتم‌ها ریسک بالایی دارد و اعمال کنترل‌های قطعی در زمان اجرا همچنان الزامی است.چالش بنیادین، نبرد سرعت میان مهاجم و مدافع است؛ به‌ویژه در شرایطی که هزینه شناسایی و بهره‌برداری از نقاط ضعف امنیتی به شدت کاهش یافته است.در نهایت، تحولات اخیر نشان می‌دهد که مسئله اصلی در حکمرانی فناوری، از «ایمن‌سازی پاسخ‌های متنی یک چت‌بات» به «طراحی بسترها و محیط‌های ایمن برای فعالیت عامل‌های خودمختار» تغییر یافته است. در واقع تعیین سطح دسترسی و مهار شبکه‌های متصل هوش مصنوعی، چالش محوری نظام‌های امنیتی در عصر حاضر به شمار می‌رود.
منابع
https://openai.com/index/gpt-6-astra/https://openai.com/index/safety-overview-gpt-6-astra/https://openai.com/index/path-to-astra/https://deploymentsafety.openai.com/gpt-6-astra/visionhttps://openai.com/index/responding-next-frontier-critical-cyber-capabilities/https://openai.com/index/pacing-model-development-cyber-capabilities/https://openai.com/index/hugging-face-incident-and-the-road-ahead/https://openai.com/daybreak/https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-aihttps://csrc.nist.gov/pubs/other/2026/02/05/accelerating-the-adoption-of-software-and-ai-agent/ipdhttps://proceedings.iclr.cc/paper_files/paper/2026/hash/1cc901ebe4c549ab9222af0c1dd449b1-Abstract-Conference.htmlhttps://www.gartner.com/en/documents/8143229https://www.axios.com/2026/07/07/ai-hacking-benchmarking-testshttps://www.reuters.com/legal/litigation/openai-launches-new-astra-model-amid-growing-scrutiny-over-agents-safety-2026-09-03/https://www.reuters.com/legal/litigation/openai-is-building-automated-shutdown-capabilities-ai-tools-2026-09-02/https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-in-previously-undisclosed-ai-breakout-this-2026-09-04/
06:18 - 14 شهریور 1405