Проектирование нейрона на базе мемристоров для спайковых нейронных сетей
- Авторы: Островский В.Ю.1, Дружина О.С.1, Камаль О.1, Каримов Т.И.1, Бутусов Д.Н.1
-
Учреждения:
- Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» имени В.И. Ульянова (Ленина)
- Выпуск: Том 18, № 4 (2023)
- Страницы: 827-830
- Раздел: Материалы конференции
- URL: https://bakhtiniada.ru/2313-1829/article/view/256380
- DOI: https://doi.org/10.17816/gc623428
- ID: 256380
Цитировать
Открытый доступ
Доступ предоставлен
Только для подписчиков
Аннотация
Основной целью проектирования нейроморфных систем является преодоление ограничений энергоэффективности и масштабирования классических вычислительных систем архитектуры фон Неймана путём имитации нервной системы животных за счёт выполнения вычислений в памяти, кодирования информации в импульсных сигналах и достижения адаптивности. Следование данным принципам позволяет повысить энергоэффективность и скорость вычислений в решении задач машинного обучения, в том числе для биомедицинских приложений, встраиваемых и киберфизических систем. Использование функциональных блоков, моделирующих основные элементы центральной нервной системы — нейроны и синапсы, может дать преимущество в реализации обучения на чипе. Использование электронных компонентов на основе мемристивных устройств, которые меняют свое сопротивление в зависимости от протекшего через них заряда, открывает новые возможности для аппаратной реализации нейроморфных систем. Эти устройства имеют преимущества по сравнению с традиционной транзисторной электроникой в энергопотреблении, плотности интеграции элементов и скорости работы. Для достижения лучших результатов архитектура нейроморфных систем должна проектироваться с оптимизацией на уровне таких устройств.
Компоненты на основе мемристоров применяются для аппаратной реализации как нейронов, так и синапсов. В данной работе фокус сделан на создании мемристивных нейроноподобных генераторов спайковых сигналов. Из литературы известны мемристивные нейроны на базе локально активного элемента из диоксида ванадия VO2, реализующего участок отрицательного дифференциального сопротивления ВАХ. Среди таких разработок можно выделить спайковый нейрон с частотной адаптацией [1], однако к его недостаткам можно отнести физическое разделение мемристивного и локально активного элементов, что влечёт увеличение энергетических затрат и ухудшает степень его интеграции. В работе [2] представлены минимальные модели мемристивных нейронов, реализующих принцип интеграции и возбуждения с утечкой. Недостатком представленных схем является необходимость подачи импульсов отрицательного напряжения на батарею постоянного тока для переключения мемристора в исходное состояние высокого сопротивления, что ограничивает область его применения в нейроморфных системах. В настоящей работе представлена модель нейрона, лишённого данных недостатков за счёт использования для формирования спайков отрицательного дифференциального сопротивления самого мемристора, а также включения дополнительных схемных компонентов для поддержания циклов переключений сопротивления мемристора.
Предлагаемая модель нейрона реализована в SPICE-среде NI Multisim 14.2 с последующей верификацией в инструментальной среде NI LabVIEW 2022. Ток в мемристорной ветви эквивалентной схемы нейрона представлен уравнениями модифицированной модели обобщённого среднего метастабильного переключения мемристора с самонаправленным каналом [3]. Простота эквивалентной схемы нейрона достигнута за счёт объединения всех нелинейных характеристик, необходимых для генерации спайков, в единой модели мемристора. Экспериментальная часть исследования выполнена с применением доступных мемристоров фирмы Knowm и лабораторной станции прототипирования NI ELVIS III. Тестирование предлагаемой модели нейрона проведено с подачей синусоидального и прямоугольного входных сигналов. Установлен рефракторный период модели нейрона.
Выбранный в работе стек технологий компьютерного и полунатурного моделирования использован в рамках концепции исследовательского проектирования электронных устройств, учитывающей необходимость уточнения свойств (идентификации) объекта проектирования или его компонентов непосредственно внутри цикла разработки.
Полный текст
Основной целью проектирования нейроморфных систем является преодоление ограничений энергоэффективности и масштабирования классических вычислительных систем архитектуры фон Неймана путём имитации нервной системы животных за счёт выполнения вычислений в памяти, кодирования информации в импульсных сигналах и достижения адаптивности. Следование данным принципам позволяет повысить энергоэффективность и скорость вычислений в решении задач машинного обучения, в том числе для биомедицинских приложений, встраиваемых и киберфизических систем. Использование функциональных блоков, моделирующих основные элементы центральной нервной системы — нейроны и синапсы, может дать преимущество в реализации обучения на чипе. Использование электронных компонентов на основе мемристивных устройств, которые меняют свое сопротивление в зависимости от протекшего через них заряда, открывает новые возможности для аппаратной реализации нейроморфных систем. Эти устройства имеют преимущества по сравнению с традиционной транзисторной электроникой в энергопотреблении, плотности интеграции элементов и скорости работы. Для достижения лучших результатов архитектура нейроморфных систем должна проектироваться с оптимизацией на уровне таких устройств.
Компоненты на основе мемристоров применяются для аппаратной реализации как нейронов, так и синапсов. В данной работе фокус сделан на создании мемристивных нейроноподобных генераторов спайковых сигналов. Из литературы известны мемристивные нейроны на базе локально активного элемента из диоксида ванадия VO2, реализующего участок отрицательного дифференциального сопротивления ВАХ. Среди таких разработок можно выделить спайковый нейрон с частотной адаптацией [1], однако к его недостаткам можно отнести физическое разделение мемристивного и локально активного элементов, что влечёт увеличение энергетических затрат и ухудшает степень его интеграции. В работе [2] представлены минимальные модели мемристивных нейронов, реализующих принцип интеграции и возбуждения с утечкой. Недостатком представленных схем является необходимость подачи импульсов отрицательного напряжения на батарею постоянного тока для переключения мемристора в исходное состояние высокого сопротивления, что ограничивает область его применения в нейроморфных системах. В настоящей работе представлена модель нейрона, лишённого данных недостатков за счёт использования для формирования спайков отрицательного дифференциального сопротивления самого мемристора, а также включения дополнительных схемных компонентов для поддержания циклов переключений сопротивления мемристора.
Предлагаемая модель нейрона реализована в SPICE-среде NI Multisim 14.2 с последующей верификацией в инструментальной среде NI LabVIEW 2022. Ток в мемристорной ветви эквивалентной схемы нейрона представлен уравнениями модифицированной модели обобщённого среднего метастабильного переключения мемристора с самонаправленным каналом [3]. Простота эквивалентной схемы нейрона достигнута за счёт объединения всех нелинейных характеристик, необходимых для генерации спайков, в единой модели мемристора. Экспериментальная часть исследования выполнена с применением доступных мемристоров фирмы Knowm и лабораторной станции прототипирования NI ELVIS III. Тестирование предлагаемой модели нейрона проведено с подачей синусоидального и прямоугольного входных сигналов. Установлен рефракторный период модели нейрона.
Выбранный в работе стек технологий компьютерного и полунатурного моделирования использован в рамках концепции исследовательского проектирования электронных устройств, учитывающей необходимость уточнения свойств (идентификации) объекта проектирования или его компонентов непосредственно внутри цикла разработки.
ДОПОЛНИТЕЛЬНАЯ ИНФОРМАЦИЯ
Вклад авторов. Все авторы подтверждают соответствие своего авторства международным критериям ICMJE (все авторы внесли существенный вклад в разработку концепции, проведение исследования и подготовку статьи, прочли и одобрили финальную версию перед публикацией).
Источник финансирования. Работа поддержана Российским научным фондом, проект № 22-19-00573 «Перспективные методы идентификации и моделирования динамических систем с нелинейными компонентами».
Конфликт интересов. Авторы декларируют отсутствие явных и потенциальных конфликтов интересов, связанных с публикацией настоящей статьи.
Об авторах
В. Ю. Островский
Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» имени В.И. Ульянова (Ленина)
Автор, ответственный за переписку.
Email: vyostrovskii@etu.ru
Россия, Санкт-Петербург
О. С. Дружина
Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» имени В.И. Ульянова (Ленина)
Email: vyostrovskii@etu.ru
Россия, Санкт-Петербург
О. Камаль
Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» имени В.И. Ульянова (Ленина)
Email: vyostrovskii@etu.ru
Россия, Санкт-Петербург
Т. И. Каримов
Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» имени В.И. Ульянова (Ленина)
Email: vyostrovskii@etu.ru
Россия, Санкт-Петербург
Д. Н. Бутусов
Санкт-Петербургский государственный электротехнический университет «ЛЭТИ» имени В.И. Ульянова (Ленина)
Email: vyostrovskii@etu.ru
Россия, Санкт-Петербург
Список литературы
- Ignatov M., Ziegler M., Hansen M., et al. A memristive spiking neuron with firing rate coding // Front Neurosci. 2015. V. 9. P. 376. doi: 10.3389/fnins.2015.00376
- Kang S.M., Choi D., Eshraghian J.K., et al. How to build a memristive integrate-and-fire model for spiking neuronal signal generation // IEEE Transactions on Circuits and Systems I: Regular Papers. 2021. Vol. 68, N 12. P. 4837–4850. doi: 10.1109/TCSI.2021.3126555
- Ostrovskii V., Fedoseev P., Bobrova Y., Butusov D. Structural and parametric identification of knowm memristors // Nanomaterials (Basel). 2021. Vol. 12, N 1. P. 63. doi: 10.3390/nano12010063
Дополнительные файлы
