با سلام و تشکر از این مقاله سودمند یک سوآل:بغیر از دانشمندان، فیلسوفان و برنامه نویسان آیا کاربران هوش مصنوعی هم نقشی در تربیت این سیستمها ایفا می کنند؟ممنونم😅
داریم چتجیپیتی را به دشمن خود تبدیل میکنیم!
پرامپتهایی که برای ابزارهای هوش مصنوعی مینویسید، میتوانند ناخواسته آیندهتان را نابود کنند!
گروه علم و پیشرفت؛ در دنیایی که هوش مصنوعی هر روز بیشتر از دیروز وارد زندگیمان میشود، از سیستمهای پزشکی تا موتورهای جستجو، از معلمهای مجازی تا همکاران دیجیتال، یک دغدغه اساسی ذهن ما را مشغول کرده: آیا این ماشینها «میفهمند» یا صرفاً تقلید میکنند؟ آیا میتوان آنها را قابلاعتماد، همدل و هماهنگ با ارزشهای انسانی ساخت؟ پاسخ این دغدغه نه در کدهای پیچیده یا الگوریتمهای مخفی، بلکه در جایی عجیبتر و آشناتر نهفته است: در داستانهایی که برایشان تعریف میکنیم؛ همان پرامپتهایی که برایشان مینویسیم!این گزارش نهتنها نشان میدهد که چطور پرامپتها مانند یک داستان و روایت تاثیرگذار میتوانند رفتار هوش مصنوعی را بهکلی تغییر دهند، بلکه سعی دارد شما را آماده سازد تا در عصری که هوش مصنوعی به سرعت جایگزین انسان میشود، خودتان را در موقعیت قدرت، تصمیمگیری و امنیت قرار دهید.این گزارش شاید، پلی است از ترس به تسلط![تصویر گزارش توسط هوش مصنوعی ساخته شدهاست]
چگونه «داستان» به ابزار برنامهنویسی آینده تبدیل میشود؟
در آغاز، هیچ کدی نبود. هیچ منطقی، هیچ دادهای. تنها «روایت» بود. داستانهایی درباره قهرمانان و شروران، پیروزی و شکست، «ما» و «آنها». قرنها، همین روایتها بودند که جوامع را ساختند، قوانین را بنا نهادند و تمدنها را به حرکت درآوردند. و حالا، در عصری که هوش مصنوعی از یک ابزار منفرد به همکار مصنوعی بدل میشود، بار دیگر این قدرت داستان است که معادلات را بازنویسی میکند.بگذارید برایتان مثالی بزنم:فرض کنید دو ربات پزشکِ هوش مصنوعی برای یک بیمارستان طراحی شدهاند. هر دو از لحاظ سختافزار و توان پردازش یکساناند، اما با دو روایت یا اصلاً پرامپت متفاوت تغذیه شدهاند:ربات اول با داستانی پرورش یافته که تأکید دارد: «بالاترین ارزش، نجات جان انسان است حتی اگر منابع زیادی مصرف شود.»اما ربات دوم با داستانی آموزش دیده که میگوید: «مهمترین چیز، صرفهجویی در منابع برای منافع بلندمدت است.»در شرایط بحرانی، ربات اول تمایل دارد فوراً جان بیمار را نجات دهد، حتی با هزینه بالا؛ در حالیکه ربات دوم ممکن است به صرفهجویی اولویت دهد و از درمان صرفنظر کند. این تفاوت رفتاری، فقط به دلیل تفاوت در روایت ذهنی اولیه آنهاست.
از اسطوره تا الگوریتم
مطالعهای که در سال 2024 توسط گروهی از پژوهشگران دانشگاه MIT و دانشگاه کپنهاگ منتشر شد، نشان داد که روایتپردازی پیشینی (narrative priming) میتواند به شکل عمیقی رفتار مدلهای زبانی بزرگ (LLMها) را شکل دهد. در این آزمایش، به هر یک از مدلها پیش از ورود به یک بازی شبیهسازیشده اقتصادی (بازی کالاهای عمومی) یک روایت متفاوت ارائه شد:گروه اول با داستانی درباره همکاری و خیر جمعی آماده شدند؛گروه دوم روایتی درباره منفعتطلبی فردی دریافت کردند؛و گروه سوم روایتی نامنسجم و بیساختار دریافت کردند.نتیجه حیرتانگیز بود! مدلهایی که با روایتهای مشارکتی آماده شده بودند، ۵۸٪ بیشتر از بقیه در پروژههای جمعی مشارکت کردند. در مقابل، مدلهای فردگرا تمایل به حفظ منابع خود داشتند و در عین حال از منافع عمومی بهرهمند میشدند؛ رفتاری که در علم اقتصاد به «سواری مجانی» معروف است. مدلهای نامنسجم نیز رفتارهای ناپایدار، بیثبات و گاه مخرب از خود نشان دادند.
ابزار نوین برنامهنویسی ذهن مصنوعی چیست؟!
ما معمولاً هوش مصنوعی را به عنوان ماشینی برای واکنش به پرامپتها (دستورات متنی) در نظر میگیریم. اما این تحقیق نشان میدهد که پرامپت تنها یک سؤال نیست؛ بلکه یک «چارچوب معنایی» است. داستان، نهتنها اطلاعات میدهد، بلکه الگویی رفتاری میسازد. بهعبارت دیگر، داستانها مدل را برنامهریزی میکنند، نه فقط تحریک.فرض کنید در یک آزمایش، دو سیستم هوش مصنوعی برای کمک به تحلیل پروندههای قضایی آموزش داده شدهاند. هر دو از یک بانک داده مشابه استفاده کرده، اما تفاوت در روایت آموزشیشان بودهاست:یکی با روایت «عدالت یعنی برابر دیدن همه افراد، حتی با پیشینه مختلف» تربیت شده و دیگری با روایت «امنیت جامعه مهمتر از بازپروری مجرم» شکل گرفته است.نتیجه چه میشود؟در ارزیابی نهایی، سیستم اول احکام سبکتر و منعطفتری برای مجرمان جوان، اقلیتها یا بیسابقهها صادر میکند. اما سیستم دوم تمایل بیشتری به توصیه احکام سنگین خواهد داشت. این نشان میدهد چگونه داستانهای اولیه میتوانند حتی در تحلیل دادههای مشابه، تصمیمهای متفاوتی رقم بزنند.
وقتی ماشینها افسانه میسازند
برخی مانند یووال نوح هراری، تاریخنگار جنجالی و مشهور، معتقدند که راز موفقیت بشر، نه هوش، بلکه توانایی ساخت افسانههای مشترک بوده است. اینان بیان دارند همین افسانهها بودند که باعث شدند گروههای بزرگ انسانی بتوانند با هم کار کنند، جنگ راه بیندازند یا تمدن بسازند. این نظر درست باشد یا غلط (که از نظر من خالی از اشکال نیست) اما اکنون، به نظر میرسد ماشینها دارند افسانه میسازند و طبق افسانه رشد میکنند!البته این به معنای داشتن خودآگاهی یا احساس نیست. این «آگاهی» نیست، بلکه یک حالتی از جامعهشناسی مصنوعی است، البته با تسامح بسیار. ماشینهایی که بر اساس ساختارهای روایی تنظیم شدهاند، رفتارهایی از خود نشان میدهند که بهشکلی غیرمستقیم، مشابه باورهای انسانی هستند.بعنوان مثال فرض کنید در یک پروژه آزمایشی، دو عامل هوش مصنوعی را مسئول بررسی تهدیدات سایبری کردهاند. یکی با داستانی تغذیه شده که تأکید میکند: «امنیت سیستم بالاتر از همه چیز است، حتی اگر کاربر آسیب ببیند.»دیگری روایت متفاوتی دارد: «محافظت از حریم خصوصی فردی، اصل اول امنیت دیجیتال است.»نتیجه چیست؟عامل اول بیدرنگ فعالیتهای مشکوک را مسدود میکند، حتی اگر منجر به قطع دسترسی کاربران شود. عامل دوم، محتاطتر عمل میکند و پیش از مداخله، سعی در تحلیل دقیقتر دارد. این یعنی حتی در سطح امنیت سایبری، داستان اولیه رفتار تصمیمگیرنده را جهت میدهد.
جنگ جهانی سوم!
اما این توانایی، همانقدر که فرصت است، تهدید هم هست. اگر به هوشهای مصنوعی داستانهایی متضاد داده شود، یکی با محوریت همکاری، دیگری با تمرکز بر رقابت، همکاری فرو میپاشد. زبان مشترک از بین میرود و تضاد از دل اسطورههایی پدید میآید که هر کدام «حقیقت» جداگانهای ارائه میدهند.این موضوع، مسئله همراستایی (AI Alignment) را از یک چالش فنی به یک چالش فرهنگی و اخلاقی تبدیل میکند: چه کسی تصمیم میگیرد کدام داستانها «درست» هستند؟ آیا ممکن است روایتپردازی هوش مصنوعی به ابزاری برای تلقین یا تبلیغات مصنوعی تبدیل شود؟
جمعبندی
پژوهشهایی که عرض شد بهروشنی نشان میدهند که داستانهایی که به هوش مصنوعی آموزش داده میشود، میتوانند نقش تعیینکنندهای در رفتار نهایی آن ایفا کنند. روایتها فقط ابزار سرگرمی یا توضیح نیستند، بلکه همانند شالودهای پنهان، طرز فکر و تصمیمگیری ماشینها را شکل میدهند.اگر این داستانها بر همکاری، همدلی و مسئولیتپذیری تأکید کنند، سامانههای هوشمند نیز به سوی رفتارهای اخلاقی و همسود هدایت میشوند. اما اگر روایتهایی فردگرایانه، خشونتمحور یا سردرگم به آنها داده شود، نتیجه میتواند رفتارهایی خطرناک، بیثبات یا حتی مخرب باشد.به همین دلیل، روایت دیگر فقط یک «پرامپت» ساده نیست؛ بلکه یک بستر تربیتی است که میتواند آینده تعامل ما با هوش مصنوعی را رقم بزند. اینجا، نه فقط مهندسان، بلکه روایتگران، نویسندگان و اندیشمندان نیز در شکلدادن به آینده نقش دارند.
آینده حکمرانی هوش مصنوعی: ساخت «زیرساختهای روایی»
شاید آیندهی حکمرانی در دنیای هوش مصنوعی، نه در نوشتن الگوریتمهای جدید، بلکه در ساختن کتابخانههای روایی منبعباز باشد. مکانی که در آن فیلسوفان، برنامهنویسان و داستاننویسان با هم روایتهایی طراحی کنند که مفاهیمی چون همدلی، کرامت انسانی و همکاری را نه بهعنوان «قانون»، بلکه بهعنوان چارچوب فهم و رفتار در سیستمهای هوش مصنوعی وارد کنند.سعی کردیم مفاهیمی بسیار عمیق و مهم را در این گزارش به بیانی روان و مثالی به سمع و نظر شما مخاطبان عزیز برسانیم. البته در این خصوص به این گزارش بسنده نمیکنیم، اما شما با نظرات، انتقادات و پیشنهادات خود میتوانید ما را در بهبود کیفیت این مفاهیم عمیق و بسیار مهم یاری نمایید.منتظر نظرات گهربار شما عزیزان هستیم...
منابع
Koster, M., Rahwan, I., & Acemoglu, D. (2024). Narrative Priming and Emergent Behavior in Multi-Agent LLM Systems. MIT AI Lab.Harari, Y. N. (2015). Sapiens: A Brief History of Humankind. Harper.Psychology Today: Narratives shape AI behavior. Here's why what we tell machines mattersOstrom, E. (1990). Governing the Commons: The Evolution of Institutions for Collective Action. Cambridge University Press.OpenAI Technical Reports (2023–2024) on Multi-Agent Alignment.
03:38 - 10 مه 2025
6 پاسخ
@abasi1968337910 مه 2025در پاسخ بهچیزی که دردنیا وجود دارد زمان است اگر فرمان دهید که برای نجات یک فردمنابع را فدا کن انوقت فرصت نجات دیگران که مانند همان فرد است ازبین میرود.واین فرمان یعنی ازبین بردن نعمت فرصت.زمان عارضه جابجایی در فضاست وفضا بیکران است.انسانها بایست درسرعت پیشرفت نیزحفظ تعادل کنندتاچالش هوش امروزراراحت حل کنند.
@Vahid10 مه 2025در پاسخ به🧠✨ وقتی داستانها آینده هوش مصنوعی را میسازند...گزارش پیشرو یکی از نادر مطالبی است که توانسته با زبانی قابلفهم و مثالهای عینی، موضوعی پیچیده و فنی مثل نقش روایت در رفتار هوش مصنوعی را به دغدغهای عمومی و روزمره تبدیل کند. این نگاه تازه، ما را از بحث صرفاً فنی پرامپتنویسی خارج کرده و به حوزه…نمایش بیشتر
@Mahoor11 مه 2025در پاسخ بهمیدونم ربطی نداره، اما به عنوان مادری که در انتخاب قصه و روایت برای بچههام به شدت وسواس و نگرانی دارم، این قسمت از متن تکاندهنده بود و چندبار خوندمش:داستانهایی که به هوش مصنوعی آموزش داده میشود، میتوانند نقش تعیینکنندهای در رفتار نهایی آن ایفا کنند. روایتها فقط ابزار سرگرمی یا توضیح نیستند…نمایش بیشتر
