شبکه‌های عصبی با مصرف توان کمتر طراحی می شوند

در سال‌های اخیر، شبکه‌های عصبی سبب بهبود عملکرد سامانه‌های هوش مصنوعی شده‌اند. سامانه‌هایی که در کاربردهایی نظیر خودران‌ها، تشخیص گفتار، بینایی کامپیوتری و ترجمه خودکار به کار می‌روند. اما شبکه‌های عصبی حافظه و توان زیادی مصرف می‌کنند و به همین دلیل معمولاً روی سرورهایی در کلاود اجرا می‌شوند، به طوری که داده‌ها را از کامپیوترهای رومیزی یا دستگاه‌های همراه نظیر گوشی‌های هوشمند دریافت و نتیجه پردازش را برای آن‌ها ارسال می‌کنند.

سال گذشته، ویویان زی دانشیار مهندسی برق و علوم کامپیوتر دانشگاه ام‌آی‌تی و همکارانش از تراشه کامپیوتری کم‌مصرفی رونمایی کردند که برای شبکه‌های عصبی بهینه‌سازی شده بود و امکان پیاده‌سازی محلی سامانه‌های هوش مصنوعی قدرتمندی را فراهم می‌کرد که روی دستگاه‌های موبایل اجرا می‌شدند.

حال او و همکارانش سعی کرده‌اند به این موضوع از جهت دیگری بپردازند و شبکه‌های عصبی با مصرف توان کمتر را طراحی کنند. آن‌ها در ابتدا با روش‌های تحلیلی سعی کردند مشخص کنند یک شبکه عصبی وقتی روی یک سخت‌افزار نوعی اجرا می‌شود، چقدر توان مصرف خواهد کرد. سپس آن‌ها از این یافته‌ها برای ساده‌سازی شبکه‌های عصبی استفاده کردند، به گونه‌ای که روی دستگاه‌های همراه دستی بهینه‌تر اجرا شوند. آن‌ها در این تحقیق کاهش 73 درصدی را در مصرف توان یک پیاده‌سازی استاندارد شبکه عصبی و کاهش 43 درصدی مصرف توان نسبت به روش بهینه‌سازی شبکه‌های عصبی که پیش از این استفاده کرده بودند مشاهده کردند. ابزاری که آن‌ها طراحی کردند، میزان مصرف توان یک شبکه عصبی را بر اساس معماری شبکه و مقادیر وزن‌های آن محاسبه می‌کند. بعد از اینکه مشخص شد انرژی چطور مصرف می‌شود، از نتایج این بررسی برای طراحی شبکه عصبی با مصرف بهینه انرژی استفاده کردند.

لازم به ذکر است که محققان در گذشته برای کاهش توان مصرفی شبکه‌های عصبی از روشی به‌نام هرس کردن (Pruning) استفاده می‌کردند. در این روش، بسیاری از اتصالات بین گره‌ها که وزن کمی دارند و تأثیر بسیار اندکی در نتیجه نهایی شبکه عصبی خواهند داشت، حذف یا به ‌اصطلاح هرس می‌شوند. ابزار جدید محققان ام‌آی‌تی کمک می‌کند تا فرآیند هرس کردن شاخه‌های شبکه به‌ طور آگاهانه‌تر و با هدف کاهش مصرف توان انجام شود. هرچند بریدن شمار زیادی از اتصالات با وزن کم تأثیر اندکی روی خروجی نهایی شبکه عصبی خواهد داشت، اما بریدن و هرس کردن همه آن‌ها احتمالاً در خروجی تأثیر قابل توجهی خواهد گذاشت و این مطلوب نیست.

بنابراین، در اجرای روش‌های هرس، تعیین اینکه کدام اتصالات حذف شوند و کدام‌ها باقی بمانند بسیار اهمیت دارد. بدین ترتیب، محققان ام‌آی‌تی شروع به هرس کردن لایه‌هایی از شبکه کردند که بیشترین مصرف توان را داشتند و به همین دلیل آن‌ها روش خود را Energy–Aware Pruning  نامیدند.

در سال‌های اخیر، استفاده از یادگیری عمیق و شبکه‌های عصبی محبوبیت زیادی پیدا کرده و در حال حاضر تلاش‌ها در این حوزه بر توسعه معماری‌های بهینه‌ای متمرکز شده است تا امکان استفاده از شبکه‌های عصبی بر روی سکوهایی که قدرت محدود محاسباتی دارند فراهم شود. 
هرچند بیشتر بر روی کوچک‌سازی معماری شبکه عصبی یا کاهش توان محاسباتی مورد نیاز کار شده است، اما برای پیاده‌سازی چنین شبکه‌هایی روی ابزارهای محدودی نظیر تلفن‌های همراه، به‌دلیل محدودیت باتری و لزوم کاهش حرارت تولید شده از دستگاه، توجه به مصرف انرژی بیشترین اهمیت را پیدا می‌کند.

منبع:http://www.shabakeh-mag.com

    نظرات

    استفاده ازگوگل مپ بدون نیاز به اینترنت
    دانش روز
    استفاده ازگوگل مپ بدون نیاز به اینترنت
    گوگل به منظور جلوگیری از اشغال حجم زیادی از ظرفیت حافظه گوشی شما، به صورت اتوماتیک و خودکار تاریخچه محدوده‌های دانلود شده توسط شما را پس از گذشت ۳۰ روز ( یک ماه ) حذف می‌کند.
      2018-05-25 15:31:00
    انجام 1000000000000000عملیات در ثانیه
    فرادانش
    انجام 1000000000000000عملیات در ثانیه
    این تجربه می‌تواند راه را برای کامپیوترهای متعارف فوق‌سریع- و شاید کامپیوترهای کوانتومی- در موقعیت‌هایی که تاکنون ناممکن شمرده می‌شدند، بگشاید.
      2018-05-22 17:56:00
    امکانات استثنایی دردوربین‌شرکت رد
    نوآوری
    امکانات استثنایی دردوربین‌شرکت رد
    کاربر می تواند در آن واحد تصاویر را به صورت ۴V و دو بعدی و همچنین به صورت دو بعدی و سه بعدی ضبط کند. فایل های دو بعدی به صورت جداگانه ذخیره می شوند و لذا به راحتی قابل بهره برداری و انتقال هستند.
      2018-05-22 07:12:00
    چین در مسیر تجارت الکترونیکی فرامرزی
    اقتصاد
    چین در مسیر تجارت الکترونیکی فرامرزی
    تجارت الکترونیکی فرامرزی به عنوان نحوه‌ی جدید و الگوی جدید در تجارت بین المللی روند توسعه عصر اطلاعات را بازتاب می دهد و بر ساختار اقتصاد و تجارت جهان تاثیرگذار است.
      2018-05-21 17:04:00
    تحولات محتوائی درگوشی‌های هوشمند
    فناوریهای برتر
    تحولات محتوائی درگوشی‌های هوشمند
    پژوهشگران معتقدند طی سال های آینده افزایش استفاده از برنامه های خلاقانه، مفهومی و ارتباط آفرین به گسترش شدید کاربرد برنامه های واقعیت افزوده طراحی شده برای گوشی های هوشمند منجر می شود.
      2018-05-21 11:24:00
    "نادلا" ازحیدرآبادتاسکانداری مایکروسافت
    شخصیت ها
    "نادلا" ازحیدرآبادتاسکانداری مایکروسافت
    یکی از مسائلی که باعث شد نام نادلا بیشتر از پیش بر سر زبان‌ها بیافتد، تغییر تمرکز وی از نرم‌افزار به‌طیف وسیع‌تری از محصولات از جمله کلاود و گجت‌ها بود. وی باعث شد تا اعتبار مایکروسافت در حوزه خدمات مبتنی بر ابر بیشتر از گذشته شود.
      2018-05-19 07:29:00
    اولین تراکنش مالی روی سیستم بلاک‌چین انجام شد
    اقتصاد
    اولین تراکنش مالی روی سیستم بلاک‌چین انجام شد
    اعتبارنامه مالی از راه‌های سنتی نقل‌وانتقال بیش از ۲ تریلیون دلار پول در جهان است که بین ۵ تا ۱۰ روز بر اساس میزان انتقال، طول می‌کشد اما با بلاک‌چین این فرآیند حذف‌شده و سیستم مالی بدون هزینه جانبی جلو می‌رود.
      2018-05-15 17:12:00