زوزانا استامیروسکا، مدیرعامل و بنیانگذار شرکت هوش مصنوعی Pathway، میگوید سازوکارهای مغز میتوانند به حل برخی چالشهای هوش مصنوعی، از جمله حافظه پایدار و یادگیری پیوسته، کمک کنند. او معتقد است الگوبرداری از نحوه کار مغز میتواند به ساخت سیستمهایی بینجامد که کمتر به نظارت و یادآوری مداوم نیاز دارند.
استامیروسکا برای نشان دادن تفاوت مصرف انرژی، توان مصرفی مغز انسان را حدود ۲۰ وات عنوان میکند و میگوید مراکز داده هوش مصنوعی از یک گیگاوات عبور کردهاند؛ رقمی که به گفته او حدود ۵۰ میلیون برابر توان مصرفی مغز است. او همچنین به برآوردهایی اشاره میکند که بر اساس آنها، برای همگام شدن با رشد تقاضای پردازشی، سالانه حدود ۵۰۰ میلیارد دلار سرمایهگذاری در داراییهای ثابت لازم خواهد بود.
پردازش انتخابی و حافظه پایدار
به گفته استامیروسکا، هنگام ورود اطلاعات به مغز، نورونهای مرتبط فعال میشوند و سیگنال را به بخشهای مجاور منتقل میکنند؛ در نتیجه، همه شبکه بهطور غیرضروری درگیر نمیشود. او این الگو را در برابر بسیاری از مدلهای کنونی قرار میدهد که برای پردازش هر توکن، بخش بزرگی از شبکه و شمار زیادی از پارامترها را به کار میگیرند. از نگاه او، این تفاوت یکی از عوامل افزایش هزینه استنتاج است.
او همچنین میگوید مغز خاطرات را در اتصالات میان نورونها نگه میدارد، اما بسیاری از سامانههای هوش مصنوعی اطلاعات هر درخواست را از ابتدا پردازش میکنند و به اطلاعات پیشین دسترسی پایدار ندارند. در مغز، انعطافپذیری سیناپسی به تغییر قدرت و تعداد اتصالات کمک میکند و استفاده مکرر از مسیرهای عصبی میتواند آنها را تقویت کند. استامیروسکا این سازوکار را الگویی برای سامانههایی میداند که مسیرهای مفیدشان با استفاده تقویت میشوند.
یادگیری مداوم و استدلال نهفته
در نوشته او، مغز هنگام فعالیت به یادگیری ادامه میدهد و برای آموزش دوباره متوقف نمیشود. حافظه کاری اطلاعات را در لحظه نگه میدارد و به تنظیم و پیگیری آنها کمک میکند. استامیروسکا «استدلال نهفته» را نزدیکترین معادل این توانایی در هوش مصنوعی معرفی میکند و میگوید مدلهای ترنسفورمری معمولاً استدلال را در قالب متن انجام میدهند. به باور او، تولید و بازخوانی زنجیرههای متنی برای مراحل میانی میتواند حل مسائل دشوار را کندتر و پرهزینهتر کند.
او در مقابل، استدلال نهفته را رویکردی توصیف میکند که در آن مسئله با بازنمایی درونی و پیوسته پردازش میشود و نتیجه در پایان، در صورت نیاز، به زبان درمیآید. از نظر او، بازطراحی سامانهها برای یادگیری ساختاری و پیوسته با تنظیم دقیق یک مدل ایستا تفاوت دارد.
نمونههایی از قابلیتهای حافظه
استامیروسکا میگوید متا با مدلهای Muse Wonder و Muse Wonder Full، قابلیتهایی مانند حافظه فعال و تمرکز فعال را در عاملهای شخصی خود دنبال میکند. به توصیف او، حافظه فعال امکان انتقال اطلاعات کاربر میان گفتوگوها را فراهم میکند و تمرکز فعال به عامل اجازه میدهد هنگام مواجهه با مشکل، راهحلهای گوناگون را بیازماید. او همچنین به قابلیت حافظه عامل در پلتفرم Agent Bricks شرکت دیتابریکس اشاره میکند.
به گفته استامیروسکا، ابزارهای حافظه و استدلال نهفته میتوانند برای عاملهای هوش مصنوعی مفید باشند، اما کاربرد این قابلیتها همچنان محدود است. او نتیجه میگیرد که توسعه هوش مصنوعی با حافظه و توان حل مسئله نباید به مدلهای زبانی بزرگ و ترنسفورمرها محدود بماند.



