چرا هوش مصنوعی تشنه‌ حافظه است و دود این عطش چگونه به چشم کاربران عادی می‌رود؟

برای چند لحظه خودتان را جای دانشجو، مهندسی یا کاربری عادی بگذارید که بعد از ماه‌ها برنامه‌ریزی راهی بازار می‌شود تا لپ‌تاپ یا گوشی هوشمند جدیدی بخرد. پیش خودمان حساب می‌کنیم که باتوجه‌به سرعت پیشرفت تکنولوژی باید بتوانیم با پرداخت مبلغی معقول دستگاهی با حافظه‌ی بالا و سرعت ایده‌آل تهیه کنیم؛ اما قیمت وسایل الکترونیکی امروزی هر چیزی است به‌جز معقول!  بدتر اینکه مشخصات سخت‌افزاری دستگاه‌های میان‌رده واقعا ناامیدکننده‌اند. دیدن لپ‌تاپ‌هایی با تنها ۴ گیگابایت رم در ویترین فروشگاه‌های سال ۲۰۲۶ انگار ما را به یک دهه قبل برمی‌گرداند؛ البته این موضوع فقط مشکل ما نیست و تقریبا همه‌ی کاربران در همه‌ی کشورهای جهان، وضعیت فعلی بازارها را غیرقابل‌توجیه می‌دانند.

شاید در نگاه اول فکر کنید شرکت‌های سازنده دچار خطای محاسباتی شده‌اند یا پای یک نوسان فصلی ساده در میان است؛ اما ماهیت تورمی که امروز تجربه می‌کنیم، با تمام کمبودهای دوران کرونا یا بالا و پایین‌شدن‌های همیشگی بازار فرق دارد. همان‌طور که احتمالا حدس می‌زنید، باید انگشت اتهام را به‌سمت هوش مصنوعی بگیریم.

شرکت‌های بزرگ فناوری با یکدیگر بر سر توسعه و آموزش زیرساخت‌های هوش مصنوعی رقابت می‌کنند و مدل‌های زبانی بزرگ هم برای درک اطلاعات و تولید پاسخ، به حجم عظیمی از داده و سرعت انتقالی بالا نیاز دارند، نیازی روزافزون و پرشتاب که صنعت نیمه‌هادی‌ را با سدی فیزیکی به‌نام دیوار حافظه روبه‌رو کرده است.

تراشه‌سازان بزرگ در پاسخ به تقاضای غول‌های تکنولوژی، مسیر خطوط تولیدشان را تغییر داده‌اند تا تمام ظرفیتشان را روی ساخت محصولات گران‌قیمت مخصوص سرورها متمرکز کنند؛ هرچند این استراتژی عوارض جانبی دیگری هم دارد و هر ویفر سیلیکون اختصاص‌یافته به دیتاسنترها، به‌طور مستقیم از سهم مصرف‌کنندگان عادی کسر می‌شود.

حتی آمار هم تأیید می‌کند که قیمت برخی از انواع حافظه نسبت به اواخر سال گذشته، تا ۹۰ درصد افزایش‌یافته است.

از قفسه فروشگاه تا دیتاسنتر؛ چرخش استراتژیک بازار رم

در دهه‌های گذشته، بازار حافظه‌ مثل ساعت کار می‌کرد و چرخه‌هایی کاملا قابل‌پیش‌بینی داشت. دوران رونق و رکود این بازار، بیشتر با معرفی گوشی‌های موبایل جدید یا کنسول‌های بازی تنظیم می‌شد؛ اما با ورود به سال‌های ۲۰۲۵ و ۲۰۲۶، این الگو به طور کامل تغییر کرد. حالا دیگر رم و فضای ذخیره‌سازی صرفا قطعاتی ساده برای ارتقای سیستم‌های کامپیوتری نیستند و به‌نوعی دارایی استراتژیک، شدیدا کمیاب و رقابتی تبدیل شده‌اند.

گزارش تحلیلی شرکت Aranca در مورد قیمت‌گذاری رم، به نکته‌ی مهمی اشاره می‌کند؛ شتاب دیوانه‌وار برای توسعه‌ی زیرساخت‌های هوش مصنوعی، تمام ظرفیت کارخانه‌های تولید حافظه را تسخیر می‌کند و پیرو آن پس‌از یک دوره‌ی ثبات نسبی، میانگین قیمت رم در برخی فروشگاه‌های خرده‌فروشی تا حدود چهار برابر افزایش می‌یابد.

تمرکز غول‌های فناوری روی سرورها، بازار مصرف‌کنندگان عادی را به حاشیه رانده است

شرکت‌های رده‌اول مانند مایکروسافت، گوگل، متا و آمازون، برنامه‌های سرمایه‌گذاری خود را با اولویت‌دادن به هوش مصنوعی تنظیم می‌کنند و تا به اینجا سرمایه‌گذاری‌شان روی زیرساخت‌های محاسباتی، به بیش‌از ۶۰۰ میلیارد دلار رسیده است که بخش اعظم آن به‌طور مستقیم صرف خرید سخت‌افزار می‌شود.

روند رشد حافظه در پردازنده‌های انویدیا؛ از گوشی تا نسل Rubin 2026

اعداد جدول بالا به ما می‌گویند که چگونه شرکت‌های بزرگ تأمین‌کننده، هزینه‌های نجومی خود را از جیب بازارهای مصرفی جبران کرده‌اند. در ساختار جدید، تولیدکنندگان سیستم‌های سنگین پردازشی حاشیه‌ی سود خود را حفظ می‌کنند؛ درحالی‌که سازندگان لپ‌تاپ‌های اقتصادی و گوشی‌های میان‌رده زیر بار این فشار آسیب بیشتری می‌بینند.

برای اینکه بفهمیم چرا هوش مصنوعی تا این حد به حافظه نیاز دارد، باید کمی به لایه‌های عمیق‌تر سیستم‌های کامپیوتری و معماری آن‌ها نفوذ کنیم. سخت‌افزار سنتی برپایه‌ی معماری فون نویمان توسعه یافته‌اند؛ ساختاری که در آن واحدهای پردازشی و ذخیره‌سازی از یکدیگر مجزا هستند و داده‌ها باید به‌طور مداوم میان آن‌ها جابه‌جا شوند.

مشکل از جایی آغاز می‌شود که در دهه‌های اخیر، قدرت محاسباتی پردازنده‌ها با نرخی نمایی رشد کرده است؛ درحالی‌که پیشرفت پهنای باند حافظه یا همان سرعت جابه‌جایی اطلاعات آرام‌تر ارتقا می‌یابد. برای درک بهتر ماجرا سرآشپزی بسیار چابک و سریع را تصور کنید که می‌تواند در کسری از ثانیه غذا را آماده کند؛ اما شاگردی که باید مواد اولیه را از انبار برایش بیاورد، خونسرد و آهسته راه می‌رود!

مهندسان برای تحلیل رفتار پردازنده‌ی گرافیکی در تعامل با حافظه از مدل روف‌لاین استفاده می‌کنند که توضیح می‌دهد عملکرد یک واحد پردازشی دارای دو سقف مجزا است؛ نخست قدرت محاسباتی محض که با ترافلاپس سنجیده می‌شود و دوم سقف پهنای باند حافظه بر حسب ترابایت‌برثانیه.

اگر بار کاری برنامه‌ای برای انجام محاسبه‌ای کوچک به خواندن حجم عظیمی از داده نیاز داشته باشد، سیستم به سقف دوم برخورد می‌کند و به‌اصطلاح، دچار محدودیت حافظه یا Memory-Bound می‌شود. در این وضعیت ارتقای پردازنده یا خرید کارت گرافیک قوی‌تر، هیچ تغییری در سرعت نهایی تولید پاسخ ایجاد نمی‌کند؛ مگر اینکه فکری به حال عرض جاده یا همان پهنای باند حافظه کرده باشید.

وقتی یک سؤال یا درخواست را برای یک مدل هوش مصنوعی ارسال می‌کنید، فرایند تولید پاسخ وارد دو فاز کاملا متفاوت می‌شود: فاز اول پیش‌پُرکردن (Prefill) و فاز دوم رمزگشایی (Decode) نام دارد.

در فاز اول، هوش مصنوعی کل متن ورودی شما را یک‌جا می‌خواند و پردازش می‌کند؛ مرحله‌ای که به ضرب ماتریس‌های بزرگ ریاضی در فضای اعداد اعشاری شباهت دارد و ازآنجاکه داده‌ها در این بخش بسیار فشرده و متراکم‌اند، تراشه تمام توان محاسباتی خود را به‌کار می‌گیرد. در فاز اول، سرعت حافظه چندان تعیین‌کننده نیست و بیشتر، قدرت محض محاسباتی پردازنده موضوعیت دارد.

اما اصل ماجرا و شروع آن بن‌بست معروف، در فاز دوم یعنی رمزگشایی رخ می‌دهد. مدل‌های زبانی بزرگ، پاسخ شما را یک‌باره و به‌صورت کامل تولید نمی‌کنند؛ آن‌ها متن را به‌صورت کلمه‌به‌کلمه یا دقیق‌تر بگوییم، توکن به توکن پدید می‌آورند. مدل برای نوشتن هر کلمه‌ی جدید، باید نگاهی به تمام کلمات قبلی بیندازد و از آن‌ها در محاسبات خود استفاده کند؛ اینجاست که ریاضیات شبکه‌های عصبی با محدودیت فیزیکی رم مواجه می‌شود.

حالا اگر بخواهید مدل ۷۰میلیارد پارامتری موردبحث با سرعت ۴۰ توکن‌برثانیه به شما پاسخ دهد، سیستم باید در هر ثانیه، ۱۴۰ گیگابایت را ۴۰ بار بخواند و جابه‌جا کند؛ یعنی پهنای باندی در حدود ۵٫۶ ترابایت‌بر‌ثانیه!

این مرور ساده نشان می‌دهد چرا در فاز رمزگشایی، عملکرد سیستم کاملا به سرعت انتقال رم بستگی دارد؛ وضعیتی که در آن پردازنده‌های سریع بدون داشتن یک حافظه‌ی موقت حجیم و به‌همان اندازه پرسرعت، عملا کارایی‌شان را از دست می‌دهند.

نیاز مبرم به عبور از محدودیت‌های فیزیکی پهنای باند، صنعت نیمه‌رسانا را به‌سمت دو معماری کاملا متضاد سوق داده است؛ حافظه‌های فوق‌سریع HBM و رم‌های مقرون‌به‌صرفه‌تری مثل DDR5.

بیایید ببینیم وقتی یک مدل هوش مصنوعی در حال اجراست دقیقا چه اتفاقی می‌افتد. مدل‌های زبانی بزرگ هنگام تولید پاسخ، فقط به وزن‌های ثابت خود متکی نیستند و از حافظه‌ی موقتی به‌نام KV Cache هم استفاده می‌کنند؛ به‌عبارتی مقادیر محاسباتی توکن‌های قبلی در این حافظه ذخیره می‌شوند تا مدل مجبور نباشد در هرگام آن‌ها را از نو محاسبه کند.