فناوری

رونمایی Tiiny از کوچک‌ترین ابرکامپیوتر دنیا؛ اجرای مدل‌های 120 میلیارد پارامتری به وسعت کف دست

استارتاپ Tiiny AI از کوچک‌ترین ابر رایانه هوش مصنوعی جهان رونمایی کرده که قدرت قابل توجهی دارد و قادر است مدل‌های 120 میلیارد پارامتری را به‌صورت کامل مدیریت کند. نکته جالب اینکه بچه غول هوش مصنوعی اندازه یک کف دست بوده و تنها 300 گرم وزن دارد.

این دستگاه با نام Tiiny AI Pocket Lab روانه بازار شده و ابعادش برابر 14.2 در 8 در 2.53 سانتی‌متر بوده و 300 گرم وزن دارد و در عین حال امکاناتی را فراهم می‌کند که پیش از این نیازمند سخت‌افزار حرفه‌ای چند هزار دلاری بود.

این ابرکامپیوتر کوچک مجهز به پردازنده ARMv9.2 12-core است و توان پردازش مدل‌های هوش مصنوعی آن روی هم رفته حدود 190 TOPS برآورد می‌شود. 80 گیگابایت حافظه رم نوع LPDDR5X و SSD یک ترابایتی امکان اجرای روان مدل‌های 120 میلیارد پارامتری را روی این دستگاه کوچک فراهم می‌کند.

tiiny-2.jpg

مصرف انرژی دستگاه Tiiny AI حدود 30 وات است و در حالت معمول سیستم حدود 65 وات انرژی مصرف می‌کند. Pocket Lab با ابعاد کوچک خود، نصب و اجرای سریع ده‌ها مدل متن‌باز و فریم‌ورک‌ها را ممکن می‌کند و برای کاربرانی که به دنبال آزمایش LLM‌ها به صورت محلی هستند، ایده‌آل بوده و نیازی به اینترنت یا فضای ابری ندارد.

بر اساس گزارش wccftech این دستگاه توانایی اجرای مدل‌هایی مانند GPT-OSS و Llama و Qwen و DeepSeek و Mistral و Phi را دارد. با بهره‌گیری از80 گیگابایت حافظه رم مدل‌های 120B به‌صورت روان روی دستگاه اجرا می‌شوند.

tiiny-2.jpg

از جمله فناوری‌های کلیدی Pocket Lab می‌توان به TurboSparse اشاره کرد که تکنیک فعال‌سازی پراکنده در سطح نورون است و کارایی استنتاج را بدون کاهش دقت مدل افزایش می‌دهد. همچنین موتور متن‌باز PowerInfer که بیش از 8,000 GitHub stars دارد، محاسبات سنگین LLM را بین CPU و NPU به‌صورت هوشمند توزیع می‌کند و عملکردی مشابه سرور حرفه‌ای با مصرف انرژی بسیار کمتر ارائه می‌دهد.

با استفاده از این فناوری‌ها، Tiiny AI Pocket Lab توان پردازشی را فراهم می‌کند که پیش از این تنها با کارت‌های گرافیک حرفه‌ای چند هزار دلاری امکان‌پذیر بود. این دستگاه قرار است در CES 2026 به نمایش گذاشته شود و هرچند هنوز جزئیات مربوط به تاریخ عرضه و فروش رسمی اعلام نشده است، نویدبخش تحول در حوزه محاسبات هوش مصنوعی شخصی و محلی به‌شمار می‌رود.

Source link

تیم تحریریه نوین مگ

تیم تحریریه novinmag.ir متشکل از گروهی از نویسندگان و محققان خلاق است که با اشتیاق و دقت، آخرین مطالب و ترندهای روز را در حوزه‌های مختلف گردآوری و ارائه می‌کنند. هدف ما ارائه محتوای کاربردی، آموزنده و جذاب برای خوانندگان است تا تجربه‌ای متفاوت و مفید از دنیای دیجیتال و اطلاعات روز داشته باشند.

نوشته های مشابه

دکمه بازگشت به بالا