کارت گرافیک مناسب هوش مصنوعی را با نام یک مدل مشهور انتخاب نکنید. نخست مشخص کنید قرار است مدل زبانی اجرا کنید، تصویر بسازید یا مدل را آموزش دهید. ظرفیت حافظه، سازگاری نرم‌افزار و آزمون کار واقعی سه فیلتر ابتدایی‌اند؛ عدد قدرت پردازش به‌تنهایی پاسخ خرید نیست.
اول مشخص کنید چه کاری روی دستگاه انجام می‌شود
«کارت گرافیک برای هوش مصنوعی» یک نیاز با اندازه ثابت نیست. استفاده از یک سرویس آماده با اجرای محلی مدل فرق دارد؛ آموزش مدل نیز با اجرای مدلی که از قبل آماده شده یک کار نیست. پیش از انتخاب، نوع ورودی، خروجی، مدل و تعداد کار هم‌زمان را بنویسید. اگر فقط از یک سرویس وب استفاده می‌کنید، خرید GPU محلی پیش‌شرط عمومی آن نیست.
برای یک طرح محلی، سه پرسش را جدا پاسخ دهید: آیا نرم‌افزار از سخت‌افزار شما پشتیبانی می‌کند؟ آیا حافظه برای مدل و شرایط اجرا کافی است؟ آیا زمان و کیفیت نتیجه در کار شما قابل قبول است؟ پاسخ مثبت به یکی، دو مورد دیگر را ثابت نمی‌کند. راهنمای CPU یا GPU برای جداکردن همین تصمیم‌هاست.
از مشخصات کاغذی به آزمون قابل مقایسه برسید
| اطلاعات لازم | چه چیزی ثبت شود؟ | چرا مهم است؟ |
|---|---|---|
| مدل و روش اجرا | نسخه، قالب و تنظیمات | نام مدل به‌تنهایی مصرف حافظه یا زمان را توضیح نمی‌دهد |
| ورودی آزمون | اندازه و نوع مشابه کار نهایی | نمونه خیلی کوچک نماینده همه کار نیست |
| اجرای هم‌زمان | تعداد کار و طول زمینه | شرایط یک کاربر با بار هم‌زمان فرق می‌کند |
| پذیرش | کیفیت، زمان و خطا | سرعت بدون خروجی مناسب، تصمیم کافی نیست |
این جدول بنچمارک کارت مشخصی نیست. نام و قیمت بازار را از آن نتیجه نگیرید. در مستندات رسمی پشتیبانی سخت‌افزار Ollama سازگاری جاری را بررسی کنید؛ برای هر نرم‌افزار دیگر نیز مستندات خودش ملاک است. اجرای موفق یک ابزار، سازگاری همه ابزارهای هوش مصنوعی با همان کارت را اثبات نمی‌کند.
اگر درباره نوع کار هنوز تصمیم نگرفته‌اید، از نقشه یادگیری هوش مصنوعی و راهنمای انتخاب ابزار شروع کنید. ابتدا خروجی لازم را روشن کنید و بعد درباره اجرای محلی یا دریافت سرویس تصمیم بگیرید.
چه کاری قرار است انجام شود؟
برای اجرای یک مدل، نام و نسخه وزن‌ها، نوع کم‌دقت‌سازی، طول متن ورودی و تعداد کاربران هم‌زمان را بنویسید. برای آموزش، اندازه داده و روش آموزش نیز لازم است. یک دستگاه ممکن است پاسخ کوتاه تک‌کاربره بدهد ولی در گفت‌وگوی طولانی یا چند درخواست هم‌زمان به محدودیت برسد. بنابراین فهرست خرید باید از سناریو استخراج شود.
سه مرحله غربال گزینه‌ها
ابتدا سازگاری دقیق کارت، سیستم‌عامل و نسخه موتور اجرا را در مستندات همان موتور کنترل کنید. سپس تخمین حافظه را با حاشیه برای حافظه موقت و سیستم بسنجید. در پایان روی دستگاه قابل دسترس، ورودی و خروجی مشابه کارتان را اجرا کنید. زمان اولین پاسخ، زمان پایان و کیفیت پاسخ را جدا یادداشت کنید؛ سرعت یک متن بسیار کوتاه نماینده همه کارها نیست.
نمونه عملی
فرض کنید هدف، خلاصه‌کردن فایل‌های داخلی با یک کاربر است. به‌جای مقایسه چند کارت براساس تبلیغ، سه سند غیرمحرمانه کوتاه، متوسط و بلند آماده کنید. روی گزینه قابل آزمایش، نسخه ثابت مدل را اجرا و بررسی کنید آیا خلاصه اطلاعات مهم را حفظ می‌کند. اگر طولانی‌ترین سند باعث خطا شد، گزینه را فقط با نتیجه سند کوتاه قبول نکنید. این مثال عدد بنچمارک یا توصیه خرید یک برند نیست.
| مورد بررسی | کار یا شاهد لازم | نتیجه مورد انتظار |
|---|---|---|
| کاربرد | اجرای مدل، تولید تصویر یا آموزش را مشخص کنید | یک وظیفه قابل آزمون |
| سازگاری | کارت و درایور را با موتور اجرا تطبیق دهید | پشتیبانی مستند |
| حافظه | وزن‌ها و زمینه و هم‌زمانی را تخمین بزنید | اجرای بدون خطای حافظه |
| آزمون | سه ورودی هم‌نوع با کار نهایی اجرا کنید | کیفیت و زمان ثبت‌شده |
کاربرگ قابل استفاده
ردیف‌های جدول در فایل CSV این راهنما قرار دارند. ستون نتیجه واقعی، مسئول و تاریخ را پس از بررسی خودتان تکمیل کنید. مثال‌های این نوشته آموزشی‌اند و گزارش آزمون یک محصول یا مشتری نیستند.
محدودیت و قدم بعد
قیمت بازار، موجودی و نتایج کارت مشخص در این راهنما سنجیده نشده است. برای خرید، نسخه روز مستندات و نتیجه آزمون همان دستگاه را بررسی کنید؛ داشتن حافظه کافی به معنی کیفیت کافی مدل نیست.
اگر مسئله اصلی شما پاسخ‌گویی به مشتری است، پیش از هزینه برای زیرساخت، یک گفت‌وگوی واقعی و معیار پذیرش آن را مشخص کنید. برای آشنایی با مسیر محصول، راهنمای چت سایت اپرا و دموی اپرا را ببینید. این راهنما به معنی ارائه خدمات خرید یا اجرای GPU محلی از طرف اپرا نیست.