تەڵەی مێمۆری: بۆچی کارتێکی وەک RTX 5090 ناتوانێت لە ژیریی دەستکردی ناوخۆییدا بگاتە Mac Mini M4 Pro؟

ئەم ڕۆژانە هەموو کەسێک لە کۆمەڵگەی تەکنەلۆژیی عێراق باسی NVIDIA RTX 5090 دەکات. حەقیشیانە، دێوەزمەیەکە بە ٣٢ گێگابایت VRAM. بەڵام ئەگەر دەتەوێت مۆدێلە گەورەکانی زمان (LLMs) بە شێوەی ناوخۆیی (لۆکاڵ) ڕابکەیت، ڕاستییەک هەیە کە دەبێت بیزانیت: ٣٢ گێگابایت زۆرجار بەشی کارەکەت ناکات.

ئەگەر بتهەوێت مۆدێلێکی ٧٠ ملیار پارامەتری وەک Llama-3-70B لەسەر تەنها یەک RTX 5090 دابنێیت، یەکسەر تووشی کێشەی کەمبوونی مێمۆری (Out of Memory) دەبیت. بۆ چارەسەرکردنی ئەمە، یا دەبێت کوالیتی مۆدێلەکە زۆر دابەزێنیت (Quantization) یاخود بارگرانییەکە بخەیتە سەر ڕامی هێواشی سیستمەکە، کە ئەمەش خێرایی کارکردنەکە بە تەواوی دەکوژێت.

لێرەدایە کە Mac Mini M4 Pro هاوکێشەکە دەگۆڕێت.

بەهۆی تەکنەلۆژیای بیرگەی یەکگرتووی ئەپڵ (UMA)، پڕۆسێسەر (CPU) و کارتۆنەکە (GPU) یەک حەوزی مێمۆری خێرا بەش دەکەن. ئەگەر Mac Mini بە ڕامی ٦٤ یان ١٢٨ گێگابایت بکڕیت، هەموو ئەو مێمۆرییە ڕاستەوخۆ لەبەردەستی مۆدێلی ژیریی دەستکردەکەدایە.

بڕیاری کۆتایی بۆ خولیایانی تەکنەلۆژیا لە عێراق: ئەگەر کارت تەنها ڕاهێنان و دروستکردنی مۆدێلەکانە لە سەرەتاوە، RTX 5090 بکڕە. بەڵام ئەگەر دەتەوێت مۆدێلە زیرەک و گەورەکان بۆ پەرەپێدان، تاقیکردنەوە یان کارەکانی ڕۆژانە بە بێ کێشە و ڕیستارت بوون بەکاربهێنیت؟ Mac Mini مۆدێلی M4 Pro بژاردەیەکی زۆر زیرکانەتر و گەورەترە بۆ سەر مێزەکەت.