آشنایی با لایه های زیرین هوش مصنوعی
به نام خداسلاماگر میخواهید با هوش مصنوعی های جدید که از سال ۱۳۹۹ شروع شده اند آشنا شوید یک مسیر مشخص را باید طی کنید.هوش مصنوعی نسل اول به اصطلاح یادگیری عمیق / deep learning / حدودا در دهه ی ۹۰ میلادی با مقاله ی LeNet شروع به کار کرد. بعد به دلایلی مخصوصا ظهور SVM ها فراموش شد تا در سال ۲۰۱۲ میلادی با مقاله ی AlexNet دوباره روی اسم ها افتاد. عنصر اصلی این الگوریتم Convolutional Layer یا همان لایه های پیچشی بودند که به شکل Recurrent Layer , LSTM ها در حوزه ی زبانی ظهور پیدا کردند. Convolutional Neural Network CNN ها بیشتر برای عکس ها در نظر گرفته شده بودند و RNN بیشتر برای متن از سال ۲۰۱۲ تا ۲۰۲۰ این الگوریتم ها توسعه یافتند ولی با حضور Transfomerها انقلاب دوم رخ داد. تا آن زمان هنوز خبری از GPT زیاد در زبان ها نبود. اگر چه Generative Pre-trained Transformers (GPT) از سال ۲۰۱۸ شروع شده بود ولی در سال ۲۰۲۰ با ظهور GPT-3 بود که بازی کلا تغییر کرد. البته خود Transfomer ها در سال ۲۰۱۷ معرفی شدند که به همین دلیل GPT-1 در سال ۲۰۱۸ معرفی شد. مقاله ای که در سال ۲۰۱۷ چاپ شد تحت عنوان by Vaswani et al. in their seminal 2017 paper "Attention is All You Need." بود. در سال ۲۰۱۸ شرکت OpenAI از این الگوریتم ها استفاده کرد تا نسل اول GPT را برای مقاصد پردازش زبان طبیعی NLP Natural Language Processing استفاده کند.الان در سال ۲۰۲۵ هستیم و این الگوریتم ها توسعه یافتند. مفاهیمی مثل Diffusion Model ها ظهور کردند و بسرعت انقلاب دوم هوش مصنوعی خیلی از ابعاد زندگی ما را تغییر داد. درست است که شرکت OpenAI اول GPT را درست کرد و آن را تحت عنوان ChatGPT بازاریابی کرد.
ولی به مرور بازیگران دیگری نیز وارد شدند که اخیر DeepSeek و Qwen و چندین مدل دیگر از شرکت های چینی رقابت کاملا تنگاتنگی را با ChatGPT دارند. اروپا هنوز کار خاصی در این زمینه نتوانسته است انجام بدهد و رقابت بیشتر بین چین و آمریکا برای تسلط روی این حوزه است که بر اساس سه فاکتور تعیین میشود. مقدار کارت گرافیک، الگوریتم هوش مصنوعی با دقت و سرعت و بهینگی بالا و مقدار دادهدر کشور ایران، ما میتوانیم در زمینه دوم خوب عمل کنیم و در زمینه ی اول و سوم میتوانیم حداقل هایی را داشته باشیم. در زمینه الگوریتم نیز میتوان الگوریتم هایی را طراحی کرد که به کارت گرافیک های کمتر با حافظه ی کمتر و با مقدار داده های یادگیری کمتری نیاز داشته باشند. DeepSeek با یک روش هوشمندانه و زیرکانه با کسری از هزینه های شرکت OpenAI توانست که الگوریتمی درست کند که بتواند دقتی مشابه ChatGPT-4 داشته باشد. چون این الگوریتم های از نظر مقدار پارامتر ها در تعداد تریلیون هستند و دیگر صحبتی از میلیارد و میلیون نیست به آنها مدل های زبانی بزرگ یا Large Language Model LLM میگویند.اگر مایل هستید که در این زمینه خودتان تحقیق و توسعه کنید و یاد بگیرید و یا کاربر باشید یا خودتان تولید کننده ی الگوریتم. میتوانید از نقشه ی راه زیر استفاده کنید. به انگلیسی آن را از qwen گرفتم و در ادامه اش به فارسی هم قرار میدهم.میتوانید همینطور در زمینه ی کوچک و بهینه کردن الگوریتم های بزرگ کار کنید که با کمترین کاهش دقت، حجم مدل های بزرگ را کاهش دهید تا روی کارت گرافیک های با حجم خیلی کمتر اجرا شوند. این حوزه یک حوزه ی تحقیقاتی کاملا فعال و پرطرفدار است. مخصوصا که خیلی از افراد مایل هستند که الگوریتم ها روی گوشی ها همراه اجرا شود.
همینطور با ظهور مدل های LLM ، مفهومی به عنوان مدل های بنیادین Foundation Model ها ایجاد شد که این مدل ها روی داده های زیادی آموزش دیده اند و افراد آنها را استفاده میکنند تا روی موضوع مخصوص خودشان با داده های کمتر، باز آموزش بدهند.https://arxiv.org/abs/1706.03762https://arxiv.org/abs/2010.11929در دو خبر بعدی، مسیر یادگیری مدل های زبانی و موضوعات بروز فناوری در این زمینه، ارایه و از خبر چهارم، اخبار فناوری ها برای توسعه ی هوش مصنوعی توسط خودتان و نه به عنوان کاربر ارایه میشود. لطفا توجه داشته باشید که مخاطب این اخبار برای افرادی است که مایل به تولید الگوریتم های هوش مصنوعی و توجه به لایه های زیرین آن میباشد و مناسب افرادی که فقط به دنبال کاربرد آن هستند مناسب نیست.
03:43 - 13 تیر 1404