22161

پياده سازي شبكه هاي عصبي اسپايكي روي fpga

كارشناسي ارشد

الكترونيك - طراحي مدارهاي مجتمع آنالوگ و ديجيتال

1399

1399/2/20

دكتر شهريار برادران شكوهي

برق

مهندسي نئورومورفيك به معناي طراحي تراشه‌هاي الكترونيكي با ساختار الهام گرفته شده از مغز انسان است. معماري تراشه‌هاي مبتني بر مهندسي نئورومورفيك به ‌منظور بهبود و سرعت بخشيدن به محاسبات يادگيري ماشين، هوش مصنوعي و عمليات شناختي ساخته شده اند. تراشه‌هاي نئورومورفيك با تقليد از جنبه عملكردي مغز نسبت به معماري پردازشي وان-نيومن از نظر مصرف انرژي كارايي بهتري دارند. اين معماري‌ها مبتني بر عناصر پردازشي توزيع شده (نورون) و حافظه توزيع شده (سيناپس) با الهام از مدل بيولوژيكي مغز انسان است. از تركيب اين عناصر پردازشي شبكه‌هاي عصبي اسپايكي ايجاد مي‌شوند. يكي از عمليات شناختي مهم در مغز انسان حافظه انجمني عصبي است. اين حافظه قادر است حجم زيادي از اطلاعات را بخاطر سپرده و آنها را با حداقل خطا بازيابي كند. تاكنون چندين معماري براي حافظه انجمني عصبي معرفي شده است، از جمله حافظه انجمني هاپفيلد، دوسويه و تنك. با اين حال، مشكل حافظه انجمني هاپفيلد و دوسويه ظرفيت پايين آنها است. در اين تحقيق يك مدل سخت افزاري ديجيتال بهبود يافته از نورون به عنوان عنصر پردازشي ارائه شده است. پياده سازي اين نورون با توجه به يكي از مدل‌هاي بيولوژيكي ارائه شده براي نورون‌ها تحت عنوان مدل جمع و آنش نشتي صورت گرفته است. يكي ديگر از چالشهاي پياده سازي منابع محدود سخت افزاري است. نورون بهبود يافته تا 50 درصد مصرف منابع سخت افزاري را نسبت به كارهاي مشابه بهبود بخشيده و از دقت قابل قبولي برخوردار است. در نهايت از اين عنصر پردازشي براي ساخت و پياده سازي يك معماري شبكه عصبي اسپايكي تحت عنوان WTA بكار گرفته شده است. از ويژگي‌هاي معماري WTA مقاومت بالا در برابر نويز است، جهت ارزيابي اين معماري از نويز تصادفي ايجاد شده توسط نرم افزار بر روي الگوهاي پيشنهادي استفاده شده است. در معماري پيشنهادي براي شبكه عصبي اسپايكي با بكارگيري مدل بهبود يافته ارائه شده تا 27 درصد بهبود در تشخيص الگو حاصل شد. حداكثر فركانس گزارش شده براي نورون بهبود يافته پياده سازي شده برابر 576 مگاهرتز و براي شبكه عصبي WTA برابر 314 مگاهرتز است. در ادامه با استفاده از ماژولهاي WTA يك حافظه انجمني با عنوان حافظه سازماندهي شده ستوني (COM) با الهام گرفتن از ساختار نئوكورتكس مغز پياده سازي شده است كه علاوه بر اينكه داراي ظرفيت بالايي بوده، در برابر نويز و حذف داده مقاوم است.

1399/04/14

fpga implementation of spiking neural networks

5/10/2021 12:00:00 AM

Neuromorphic engineering means designing electronic devices which are inspired by human brains. The neuromorphic based architectures are implemented to accelerate machine learning computations, artificial intelligence, and cognitive tasks. Neuromorphic systems are more efficient compare to the Von-Neumann architectures from the aspect of performance. These architectures consist of distributed elements such as neurons and distributed memories (synapses). By combining these processing elements, spike neural networks are implemented. One of the most important cognitive operations in the human brain is associative memory. This memory is able to store a large amount of information and recover it with minimum error. Various architectures and designs for neural associative memory have been introduced, such as Hopfield neural network (HNN). However, these architectures suffer from low storage capacity. In this research, a new spiking associative memory architecture proposed that is called COM. COM has a large capacity and robust message retrieval compared with HNN. In this thesis, a low-cost Leaky Integrate and Fire (LIF) neuron is proposed that is used to implement a digital spiking WTA module. The results demonstrate that the proposed neuron has been improved by almost 39% in response speed, and 50% in resource-consumption compared to the recent works. These neurons are used to implement a spiking WTA neural network. A WTA has high noise robustness characteristics. A set of random is applied to the proposed dataset to validate the operation and accuracy of spiking WTA. This architecture improves the accuracy of the spiking neural networks by 27 percent. The maximum operation frequency of the implemented neuron and WTA neural network are 576.319 MHz and 314.095 MHz, respectively. Finally, a brain-inspired associative memory is implemented on FPGA, which is called COM. It consists of three WTA modules. It's highly robustness against the noises, and it provides a large capacity to retrieve the erased patterns.