شرکت اپل در حال مذاکره با استارتاپ کوچکی به نام PrismML است که ادعا می‌کند می‌تواند مدل‌های عظیم هوش مصنوعی را به اندازه‌ای کوچک کند که به‌طور مستقیم روی آیفون اجرا شوند و این فناوری نوآورانه می‌تواند تحولی بزرگ در نحوه استفاده از هوش مصنوعی روی دستگاه‌های همراه ایجاد کند. مدیرعامل PrismML اعلام کرده است که اپل و چند شرکت دیگر در حال ارزیابی فناوری این استارتاپ هستند و سرعت، بهره‌وری انرژی و عملکرد آن را روی دستگاه‌های مختلف می‌سنجند و اگرچه مذاکرات هنوز در مراحل اولیه است، اما اوضاع به خوبی پیش می‌رود.

این استارتاپ که توسط کالج فنی کالیفرنیا (Caltech) حمایت می‌شود، به‌تازگی نسخه‌های فشرده‌شده از مدل منبع‌باز Qwen متعلق به شرکت علی‌بابا را منتشر کرد و طبق ادعای این شرکت، آنها موفق شده‌اند اندازه مدل را از حدود ۵۴ گیگابایت به کمتر از چهار گیگابایت کاهش دهند، به‌طوری که تمام ۲۷ میلیارد پارامتر آن روی آیفون ۱۵ یا نسخه‌های جدیدتر اجرا شود.

این خبر یک روز پس از انتشار نسخه بتای عمومی iOS ۲۷ منتشر شد که به کاربران آیفون امکان دسترسی به بازنگری طولانی‌مدت دستیار صوتی سیری را می‌دهد و اپل تلاش می‌کند سیری را در رقابت با دستیارهای شرکت‌هایی مانند OpenAI و Anthropic قدرتمندتر کند، در حالی که اطلاعات شخصی کاربران و پردازش‌های هوش مصنوعی را روی خود دستگاه نگه دارد. محدودیت اصلی اپل این است که مدل‌های پیشرفته هوش مصنوعی به حافظه و توان پردازشی زیادی نیاز دارند که روی گوشی هوشمند در دسترس نیست و اگرچه اپل می‌تواند درخواست‌های پیچیده را به سرورهای ابری ارسال کند، اما اجرای مستقیم هوش مصنوعی روی آیفون مزایای بزرگی مانند کاهش تأخیر در ارسال داده به سرورهای راه‌دور، کاهش هزینه‌های رایانش ابری، افزایش حریم خصوصی کاربران و امکان استفاده از بعضی ویژگی‌ها بدون اتصال به اینترنت را به همراه دارد.

کارولینا میلانسی، رئیس و تحلیلگر ارشد Creative Strategies ، معتقد است که مدل‌های کوچک‌تر به اپل امکان می‌دهد ویژگی‌های سنگین‌تری را روی آیفون اجرا کند، از جمله عکاسی محاسباتی، تولید ویدئو، و ابزارهای سلامت و تناسب اندام که به داده‌های حساس شخصی وابسته هستند. هوراس ددیو، بنیانگذار Asymco، نیز گفت که اپل احتمالاً قصد دارد اکثر تعاملات روزمره سیری را روی دستگاه نگه دارد و فقط کارهای سنگین‌تر را به ابر بسپارد که این کار به اپل مزایایی مانند تأخیر کمتر، حریم خصوصی بیشتر و کاهش هزینه‌های مجوز و وابستگی به ابر می‌دهد.

فناوری PrismML با ساده‌سازی اساسی نحوه ذخیره اطلاعات داخلی مدل، اندازه آن را کاهش می‌دهد و به‌جای ذخیره هر مقدار با ۱۶ بیت، آن را به فقط یک یا سه مقدار ممکن تقلیل می‌دهد که حافظه مورد نیاز را به‌شدت کاهش می‌دهد. طبق ادعای این استارتاپ، مدل‌های فشرده‌شده ۱۰ تا ۱۵ برابر حافظه کمتری مصرف می‌کنند، پاسخ‌ها را شش تا هشت برابر سریع‌تر تولید می‌کنند و سه تا شش برابر انرژی کمتری مصرف می‌کنند، هرچند مدیرعامل این استاتاپ پذیرفت که یک تعادل وجود دارد و مدل‌های PrismML معمولاً چند درصد از عملکرد کلی خود را از دست می‌دهند و توانایی در یادآوری واقعیات کاهش می‌یابد، اما مهارت‌هایی مانند استدلال، ریاضی و کدنویسی کمتر تحت تأثیر قرار می‌گیرند.

PrismML دو نسخه فشرده از مدل خود را به‌صورت رایگان منتشر کرده است که روی دستگاه‌های روزمره از جمله آیفون، مک‌بوک و رایانه‌های مجهز به تراشه انویدیا قابل اجرا هستند و این فناوری از گروه تحقیقات در Caltech نشأت گرفته و دانشگاه دارای پتنت‌های اصلی است که به طور انحصاری به PrismML مجوز داده است. این استارتاپ در ماه مارس موفق به جذب ۱۶.۲۵ میلیون دلار سرمایه شد و مدل بعدی این شرکت، مدل منبع‌باز Gemma از گوگل خواهد بود و پس از آن مدل‌های بسیار بزرگ‌تری که امروزه معمولاً به سخت‌افزار مراکز داده نیاز دارند، در دستور کار قرار دارند و به گفته PrismML، این فناوری می‌تواند فراتر از تلفن و لپ‌تاپ به رباتیک، سیستم‌های خودمختار و سایر محصولاتی که نیاز به تصمیم‌گیری سریع بدون اتصال به ابر دارند، گسترش یابد.

انتشار این خبر در زمان بحث‌های داغ درباره این موضوع رخ داده است که آیا بهبود کارایی هوش مصنوعی می‌تواند تقاضا برای تراشه‌های حافظه و زیرساخت‌های گران‌قیمت مراکز داده را کاهش دهد یا خیر، زیرا حافظه به یکی از بزرگترین محدودیت‌ها و هزینه‌ها در دستگاه‌های الکترونیکی مصرفی و سرورهای هوش مصنوعی تبدیل شده است و تحلیلگران مورگان استنلی پیش‌بینی می‌کنند که هزینه حافظه DRAM اپل به ازای هر بیت در سال مالی ۲۰۲۷ حدود ۱۹۰ درصد افزایش یابد و هزینه NAND حدود ۱۸۰ درصد رشد کند.

با این حال، تحلیلگران معتقدند که کوچک‌سازی مدل‌ها فقط به معنای کاهش تقاضای کلی تراشه نیست و گیل لوریا، تحلیلگر D.A. Davidson، گفت که مدل‌های کوچک‌تر نیازی به پردازنده یا حافظه را از بین نمی‌برند، بلکه ممکن است باعث شود این تراشه‌ها از مراکز داده به گوشی‌ها و سایر دستگاه‌ها منتقل شوند. او افزود که اجرای هوش مصنوعی روی دستگاه‌های فردی گاهی می‌تواند کم‌بازده‌تر از زیرساخت مرکزی باشد، زیرا تراشه‌های گوشی‌ها ممکن است بیشتر زمان خود را بیکار بمانند. تارون پاتاک، مدیر تحقیقات در Counterpoint Research، نیز تأکید کرد که ادعاهای PrismML هنوز باید در شرایط واقعی و نه فقط آزمایش‌های کنترل‌شده اثبات شوند و گفت آزمون نهایی، میلیون‌ها درخواست، هزاران ترکیب دستگاه و آزمایش در مقیاس بزرگ خواهد بود.

در نهایت، فناوری PrismML پتانسیل ایجاد تحول در نحوه اجرای هوش مصنوعی روی دستگاه‌های همراه را دارد و می‌تواند به اپل کمک کند تا سیری را سریع‌تر، خصوصی‌تر و کارآمدتر کند، اما هنوز نیاز به اثبات عملی این فناوری در مقیاس بزرگ وجود دارد و حتی اگر این فناوری موفق باشد، به جای کاهش کلی تقاضا برای تراشه‌ها، ممکن است باعث تغییر محل استفاده از آنها از مراکز داده به دستگاه‌های کاربران نهایی شود.