همه کشور ها بر سرویس های اینترنتی کنترل و تسلط دارند.اما در ایران در سایه ضعف دولت، سرویس های خارجی بدون هیچ قانون و ضابطه ای فعالیت می کنند.وابستگی عمده مردم به سرویس های آمریکایی، تهدید است.
هشدار مدیر مایکروسافت: زمان کنترل هوش مصنوعی رو به پایان است
مدیر ارشد مایکروسافت هشدار داد که سرعت پیشرفت هوش مصنوعی از توانایی انسان برای درک و کنترل آن پیشی گرفته و پنجره زمانی برای مدیریت ایمن این فناوری در حال کوچک شدن است.
به گزارش گزارش گروه و پیشرفت خبرگزاری فارس به نقل از تکاکسپلور، دو پژوهشگر برجسته حوزه هوش مصنوعی هشدار دادهاند که انسانها ممکن است در آستانه از دست دادن توانایی خود برای درک سامانههایی قرار بگیرند که هر روز نقش پررنگتری در زندگی، اقتصاد و تصمیمگیریهای اجتماعی پیدا میکنند.«اریک هورویتز»، مدیر ارشد علمی مایکروسافت، و «رابرت وست»، پژوهشگر مؤسسه پلیتکنیک فدرال لوزان سوئیس، در سرمقالهای که در نشریه علمی ساینس منتشر شده، نوشتهاند پیشرفت هوش مصنوعی با سرعتی در حال رخ دادن است که از توانایی انسان برای فهم عملکرد درونی این سامانهها فراتر میرود.به گفته این دو پژوهشگر، یکی از عوامل اصلی این روند، استفاده روزافزون از هوش مصنوعی برای طراحی و بهینهسازی نسلهای بعدی هوش مصنوعی است. در چنین فرآیندی، سامانهها در فضاهای محاسباتی بسیار پیچیدهای تکامل مییابند که درک منطق تصمیمگیری آنها برای انسان دشوارتر میشود؛ حتی اگر عملکردشان بهبود پیدا کند.آنها همچنین به گسترش شبکههایی از عاملهای هوش مصنوعی اشاره میکنند که با یکدیگر تعامل دارند. این سامانهها ممکن است بهتدریج شیوههای ارتباطی و استدلالی خاص خود را توسعه دهند؛ شیوههایی که لزوماً برای انسان قابل تفسیر نباشد.در همین حال، هوش مصنوعی با تحلیل حجم عظیمی از دادههای رفتاری، شناخت عمیقتری از انسانها به دست میآورد. نویسندگان مقاله معتقدند این روند میتواند به وضعیتی نامتوازن منجر شود؛ جایی که سامانههای هوش مصنوعی انسانها را بهتر از آنچه انسانها این سامانهها را میشناسند، درک کنند.
به باور آنها، خطر اصلی تنها در پیچیدهتر شدن فناوری نیست، بلکه در افزایش «ابهام» آن نهفته است. اگر این روند ادامه پیدا کند، ممکن است سامانههایی شکل بگیرند که بسیار قدرتمند هستند اما نظارت و هدایت آنها برای انسان دشوار یا حتی ناممکن شود. چنین وضعیتی میتواند بر استقلال فردی، فرآیندهای تصمیمگیری دموکراتیک و اعتماد عمومی به نهادها تأثیر بگذارد.این پژوهشگران هشدار میدهند که هوش مصنوعی در آینده ممکن است بیش از آنکه بازتابی از واقعیت باشد، بازتابی از خواستهها و انتظارات کاربران ارائه کند؛ به گونهای که افراد تنها آنچه را میخواهند بشنوند دریافت کنند و در نتیجه روحیه پرسشگری و نگاه انتقادی نسبت به خروجیهای هوش مصنوعی تضعیف شود.با این حال، نویسندگان مقاله معتقدند هنوز فرصت برای جلوگیری از چنین سناریویی وجود دارد. آنها خواستار تمرکز بیشتر پژوهشها بر توسعه سامانههایی هستند که بتوانند منطق تصمیمها و فرایندهای درونی خود را به زبان قابل فهم برای انسان توضیح دهند. همچنین پیشنهاد میکنند معیارهای ارزیابی هوش مصنوعی از آزمونهای ثابت به محیطهای پویا و نزدیک به شرایط واقعی منتقل شود.هورویتز و وست در پایان تأکید میکنند که هدف نباید صرفاً افزایش تواناییهای هوش مصنوعی باشد؛ بلکه حفظ توانایی انسان برای فهم، ارزیابی و به چالش کشیدن تصمیمهای این فناوری نیز باید به همان اندازه در اولویت قرار گیرد.
در سالهای اخیر بسیاری از پژوهشگران و چهرههای مطرح این حوزه نسبت به رشد سامانههای موسوم به «جعبه سیاه» هشدار دادهاند؛ سامانههایی که میتوانند به نتایج چشمگیر برسند اما حتی سازندگانشان نیز توضیح دقیقی برای نحوه رسیدن آنها به این نتایج ندارند.در سال ۲۰۲۳، گروهی از دانشمندان و مدیران صنعت فناوری از جمله «جفری هینتون» و «یوشوا بنجیو» خواستار توجه بیشتر به مخاطرات ناشی از توسعه شتابزده هوش مصنوعی شدند و تأکید کردند که جامعه علمی باید همزمان با افزایش توانایی مدلها، روی فهمپذیری و ایمنی آنها نیز سرمایهگذاری کند.
#هوش_مصنوعی #مایکروسافت #فناوری #یادگیری_ماشین #اریک_هورویتز #ساینس #تحول_دیجیتال #هوشمصنوعی آخرین مطالب حوزه فناوری را در صفحه اصلی «علم و پیشرفت» بخوانید.
13:05 - 31 خرداد 1405