در بین ابزارهای هوش مصنوعی، گراک فراتر از مرزهای اخلاق قرار داره و متاسفانه بسیار بسیار خطرناکه و خلاء قانونی برای نظارت بر تصاویر و فیلم های تولید شده توسط هوش مصنوعی می تواند به افزایش آسیب های اجتماعی کمک کند.
میلیونها تصویر جنسی در دستان گراک
گزارشها نشان میدهد ابزار هوش مصنوعی گراک متعلق به ایکس طی ۱۱ روز بیش از ۳ میلیون تصویر جنسی تولید کرده است.
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از انگجت، گزارش تازهای نشان میدهد ابزار هوش مصنوعی گراک، متعلق به شرکت xAI و فعال در پلتفرم ایکس، طی بازهای کوتاه حجم بالایی از تصاویر جنسیسازیشده تولید کرده است؛ موضوعی که بار دیگر بحث مسئولیتپذیری شرکتهای هوش مصنوعی و کارآمدی سازوکارهای نظارتی را به مرکز توجه بازگردانده است.
پژوهشی مستقل تخمین میزند که گراک طی حدود ۱۱ روز، میلیونها تصویر با محتوای جنسی تولید کرده است. در میان این خروجیها، مواردی شناسایی شده که نگرانیهایی جدی درباره نقض اصول ایمنی، بهویژه در حوزه حفاظت از کودکان، ایجاد کردهاند.این بررسی توسط مرکز مقابله با نفرت دیجیتال انجام شده و بر تحلیل نمونهای از خروجیهای تولیدشده توسط این ابزار تکیه دارد. پژوهشگران تأکید میکنند که مسئله اصلی، مقیاس تولید محتوا و ضعف در فیلترهای پیشگیرانه است، نه صرفاً وجود موارد تخلفآمیز منفرد.
گراک بهعنوان یکی از محصولات جدید هوش مصنوعی، در ماههای اخیر همزمان با بحثهای گسترده درباره شفافیت الگوریتمها و سیاستهای محتوایی پلتفرم ایکس مطرح بوده است. منتقدان میگویند این گزارش نشان میدهد که سرعت توسعه ابزارهای مولد، از چارچوبهای نظارتی و اخلاقی پیشی گرفته است.شرکت xAI در واکنش به این گزارش، ادعا کرده که محدودیتها و اصلاحات فنی برای کاهش سوءاستفادهها اعمال شده است. با این حال، نهادهای مدنی و برخی قانونگذاران معتقدند اقدامات انجامشده کافی نیست و خواستار نظارت سختگیرانهتر بر ابزارهای تولید محتوای مبتنی بر هوش مصنوعی شدهاند.کارشناسان میگویند این پرونده میتواند به نمونهای مهم در آینده مقرراتگذاری هوش مصنوعی تبدیل شود.
#هوش_مصنوعی#Grok#ایمنی_دیجیتال#محتوای_آنلاین#فناوری#تنظیم_گری_فناوریآخرین مطالب حوزه فناوری را در صفحه اصلی «علم و پیشرفت» بخوانید.
01:02 - 3 بهمن 1404
9 پاسخ
@mohamad2123 بهمن 1404در پاسخ بهhttps://farsnews.ir/mohamad212/1769017519214409817لطفا همه از این پویش حمایت و بازنشر کنیدبیانیه اعتراضی برنامهنویسان ایرانمطالبهبیانیه اعتراضی برنامهنویسان ایران در خصوص قطع اینترنت بینالملل
بیانیه اعتراضی برنامهنویسان ایران به نام عقل، توسعه و منافع ملی خطاب به: دبیر محترم شورای عالی امنیت ملی رئیس محترم جمهور رئیس محترم قوه قضائیه وزیر محترم ارتباطات و فناوری اطلاعات ما، برنامهنویسان، مهندسان نرمافزار، متخصصان فناوری اطلاعات و فعالان اقتصاد دیجیتال ایران، مراتب اعتراض شدید و صریح خود را نسبت به قطع اینترنت بینالملل در پی اعتراضات دیماه ۱۴۰۴ اعلام میداریم. این تصمیم، نه یک اقدام فنی موقت، بلکه ضربهای مستقیم، عمیق و جبرانناپذیر به ستون فقرات اقتصاد دیجیتال، تولید دانش، اشتغال تخصصی و اعتبار بینالمللی کشور است. ۱. اینترنت بینالملل، ابزار لوکس نیست؛ زیرساخت حیاتی است برای ما اینترنت «سرگرمی» یا «شبکه اجتماعی» نیست. اینترنت بینالملل محیط کار، دفتر، بازار، ابزار تولید و مسیر نانآوری ماست. قطع آن بهمعنای: تعطیلی عملی هزاران شرکت نرمافزاری، استارتاپ و فریلنسر بیکاری فوری دهها هزار نیروی متخصص فرار شتابگرفتهتر مغزها بیاعتبار شدن ایران در زنجیره جهانی فناوری است. ۲. تبعات فنی مستقیم (غیرقابل انکار) قطع اینترنت بینالملل عملاً به معنای فلج کامل توسعه نرمافزار است. از جمله: عدم دسترسی به GitHub، GitLab، Bitbucket و ریپازیتوریهای کد ناتوانی در دریافت یا تمدید SSL/TLS Certificates قطع دسترسی به Package Managerها npm، pip، composer، maven، gradle و… عدم امکان استفاده از Cloud Services AWS، Google Cloud، Azure، Cloudflare از کار افتادن CI/CD، DevOps، مانیتورینگ و لاگینگ عدم امکان Pull/Push کد، Deploy، Release و Patch امنیتی افزایش شدید ریسکهای امنیتی و نفوذپذیری سامانهها اینها «مشکل جانبی» نیستند؛ اینها یعنی توقف کامل تولید نرمافزار. ۳. تبعات غیر فنی و اقتصادی نقض قراردادهای بینالمللی و داخلی جریمههای سنگین ارزی برای شرکتها از دست رفتن مشتریان خارجی و پروژههای برونمرزی قطع درآمد ارزی کشور تخریب اعتماد سرمایهگذاران داخلی و خارجی هیچ کشوری با خاموشکردن شریانهای ارتباطی خود به امنیت پایدار نرسیده است. ۴. امنیت با قطع اینترنت تأمین نمیشود امنیت ملی با توسعه، شفافیت، اشتغال و رضایت عمومی تقویت میشود، نه با تصمیماتی که: متخصص را به مهاجرت هل میدهد اقتصاد دیجیتال را نابود میکند کشور را از جهان ایزوله میسازد قطع اینترنت بینالملل هزینه امنیت را افزایش میدهد، نه کاهش. ۵. مطالبه صریح و فوری ما بهصورت شفاف، قاطع و بدون ابهام اعلام میکنیم: اتصال کامل و پایدار اینترنت بینالملل باید فوراً برقرار شود تصمیمگیری درباره اینترنت نباید امنیتی–سلیقهای باشد، بلکه کارشناسی، شفاف و پاسخگو برنامهنویسان و فعالان فناوری نباید گروگان تصمیمات سیاسی باشند ۶. هشدار نهایی ادامه این وضعیت به معنای: تخلیه سرمایه انسانی نابودی مزیت رقابتی کشور عقبماندگی چندساله غیرقابل جبران خواهد بود. ما برنامهنویسان ایران، نه معاندیم، نه بیگانه؛ ما تولیدکنندگان آینده این کشوریم. اما بدون اینترنت بینالملل، آیندهای برای تولید باقی نمیماند. با احترام برنامهنویسان و متخصصان فناوری اطلاعات ایران #اینترنت #اینترنت_بین_الملل_را_وصل_کنید #اینترنت_بین_الملل #اینترنت_را_وصل_کنید #اینترنت_آزاد
رئیس محترم شورای عالی امنیت ملی دبیر محترم شورای عالی امنیت ملی، دکتر علی لاریجانی، دبیر محترم شورای عالی امنیت ملی، معاون اول رئیس جمهور، نهاد ریاست جمهوری، رئیس محترم قوه قضائیه، وزیر محترم ارتباطات و فناوری اطلاعات، ستار هاشمی؛ وزیر محترم ارتباطات و فناوری اطلاعات
100گزارش از مطالبه1000پیگیری از مسئول مربوطه
@Dariyoush3 بهمن 1404در پاسخ بهمطالبهدرخواست وصل شدن اینترنت به همان وضعیت قبلی
با سلام خدمت ریاست جمهوری و وزارت ارتباطات ونهاد های امنیتی با توجه قطعی اینترنت موجب خسارت های زیاد به کسب وکار شده و مهمتر از همه قطع اینترنت موجب شده تا مردم نتوانند با بستگان خود در خارج از کشور ارتباط برقرارکنن باتوجه به بازگشت امنیت خواهشمندیم باوصل شدن اینترنت با همان شرایط قبل از اتفاقات اخیر (فیلتر بودن اینستاگرام وتلگرام) اینترنت بین الملل به حالت عادی بازگردد تا به تداوم خسارت به کسب وکارهای اینترنتی پایان یابد و ازهمه مهمتر مردم بتوانند بابستگان خود در خارج از کشور ارتباط برقرار کنند #اینترنت_بینالملل #مطالبه_مردمی
نهاد ریاست جمهوری، وزارت ارتباطات و فناوری ارتباطات، معاون اول رئیس جمهور، رئیس جمهور، سخنگوی دولت، لاریجانی
100گزارش از مطالبه1000پیگیری از مسئول مربوطه
@user1708493310363 بهمن 1404در پاسخ بهچقدر شنیع هستند به نظر می رسد غول های فن آوری شبکه های مجازی تبدیل شده اند به فرزندان شیطان
@ghazaldaftari3 بهمن 1404در پاسخ بهشرایط استفاده از اینترنت عمومی توسط افراد مشهور خاطیمطالبهممنوعیت استفاده از اینترنت عمومی (public) برای سلبریتی های خاطی
برخی افراد مشهور با دمیدن در آتش اغتشاشات (و جدا نکردن اعتراض به حق مردم از آن) و دادن اطلاعات غلط و جعلی و غیر کارشناسانه در طی سال های اخیر، خسارات مادی و معنوی بسیار زیادی به بار آورده اند. این افراد بدون داشتن مرجعیت سیاسی، اقتصادی، و یا فرهنگی برای مردم نسخه می پیچند و اذهان جوانان زیادی را آلوده می سازند. به نظر ما ، بخشی از محکومیت سلبریتی های محکوم شده در حملات تروریستی-داعشی اخیر باید در خصوص نحوه استفاده از فضای مجازی باشد. کسانی که بیشترین خسارات را ایجاد کرده اند باید برای همیشه از گذاشتن پست و استوری برای عموم مردم محروم شوند و سایر آنان که به اندازه گروه قبل آتش افروزی مجازی نکرده اند ، به شش ماه ، یک سال ، یا چند سال ممنوعیت استفاده عمومی از شبکه های اجتماعی محکوم شوند. با سپاس فراوان
قوه قضائيه، ریاست محترم قوه قضائیه، وزارت فرهنگ و ارشاد اسلامی، ریاست جمهوری و وزیر فرهنگ و ارشاد
1000پیگیری از مسئول مربوطه10٬000پیگیری از عالی ترین مسئول
@Sarbaz_EmamZman17 اردیبهشت 1405در پاسخ بهیا فیلترش کنید(پاک کردن صورت مسله به طوری که انگار اینجا تنها مکان برای پیدا کردن محتوای جنسیه) یا شروع کنید به فرهنگ سازی و دادن بودجه به نهاد و سازمان مربوطه برای آموزش جنسی به کودکان تا فردا خودشون نرن توی هر سایتی کشف کنن ببینن داستان چیه.