وقتی هوش مصنوعی روی کنسول ۲۰ ساله اجرا میشود؛ Llama2.c روی ایکسباکس ۳۶۰
وقتی هوش مصنوعی روی کنسول ۲۰ ساله اجرا میشود؛ Llama2.c روی ایکسباکس ۳۶۰
PowerPC معماری Big-endian محسوب میشود و ابتدا بزرگترین مقدار را ذخیره میکند، درحالیکه پردازنده اینتل مدل پتنیوم ۲ که در EXO Lab استفاده شد، از سیستم Little-endian بهره میبرد که اولویتش ذخیرهی کمترین مقدار است.
برای اطمینان از اینکه مدل بهدرستی کار کند، دیوید باید سیستم تغییر بایتها را پیادهسازی و تضمین میکرد که دادههای ایجاد و ذخیرهشده با همراستایی حافظهی ۱۲۸ بایتی مطابقت داشته باشند، همانطور که نیازهای زیرسیستم حافظهی ایکسباکس ۳۶۰ است.
چالش دیگری که دیوید با آن مواجه شد، استفاده از رم یکپارچه در ایکسباکس ۳۶۰ بود. اگرچه این ویژگی امروزه در کنسولها و APUها رایج است اما هنگام عرضهی کنسول مذکور، نوآوری جدیدی بهشمار میرفت. بنابراین هرچند کنسول مذکور از رم ۵۱۲ مگابایتی بهره میبرد، اندری باید تضمین میکرد که مدل ۶۰ مگابایتی او بتواند در فضای حافظهای که سیستم برای پردازنده یا گرافیک تخصیص میدهد، قرار گیرد.
مقالههای مرتبط:
دیوید میگوید با مدیریت دقیق حافظه و تنظیمات لازم برای سازگاری با معماری PowerPC موفق شد مدل هوش مصنوعی Llama2 را روی کنسول قدیمی ایکسباکس ۳۶۰ اجرا کند. این دستاورد یکی دیگر از گامهای مهم EXO Lab در جهت دسترسی آسان عموم مردم به هوش مصنوعی محسوب میشود و تأکید میکند که فناوری هوش مصنوعی نباید فقط به شرکتهای بزرگ با منابع مالی عظیم محدود شود.
اجرای مدل هوش مصنوعی Llama2 روی دستگاهی که بیش از دو دههی قبل عرضه شده است، قطعاً دستاورد شگفتانگیزی بهشمار میرود. یکی از کاربران به دیوید گفت که رم ۵۱۲ مگابایتی یکپارچهی کنسول مذکور باید برای اجرای مدلهای SmolLM از Hugging Face یا مدل ۴ بیتی Qwen2.5 کافی باشد. دیوید پاسخ داد: «چالش پذیرفته شد!»، بنابراین منتظر دیدن اجرای مدلهای هوش مصنوعی قدرتمندتر روی ایکسباکس ۳۶۰ خواهیم بود.
منبع : زومیت