Simulation of Memristive Crossbar Array Electrical Behavior in Neuromorphic Electronic Blocks

Толық мәтін

1. ВВЕДЕНИЕ

Развитие современной компьютерной техники ориентировано на повышение производительности обработки информации. Одной из основных проблем традиционных вычислительных систем на основе архитектуры фон Неймана является проблема “бутылочного горлышка”, состоящая в пространственном разделении блоков памяти для записи и хранения данных и вычислительных блоков для их обработки [1]. С целью эффективного решения данной проблемы, значительные усилия направлены на разработку альтернативных концепций архитектур, ориентированных на память, в том числе нейроморфных. К архитектурам, ориентированным на память, относятся: in memory computing – вычисления в оперативной памяти; near-memory computing – вычисления рядом с памятью.

“Вычисления в памяти” позволяют значительно повысить производительность и энергоэффективность аппаратно реализованных вычислительных архитектур, причем максимального снижения энергопотребления и повышения производительности можно достичь посредством аппаратной интеграции кроссбар-массивов мемристоров – новых элементов энергонезависимой памяти, которые, как ожидается, станут ключевыми элементами нейропроцессоров, обеспечивая максимально параллельное выполнение вычислений в памяти для эффективного решения проблемы “бутылочного горлышка” фон Неймана. Повышение эффективности при использовании матричных вычислений на базе мемристивных кроссбар-массивов достигается за счет уменьшения количества операций, требуемых для аппаратного умножения матриц, по сравнению с тем количеством, которое требуется при использовании как графических ускорителей, так и нейросетевых (тензорных) процессоров. Более того, энергонезависимость мемристоров делает возможным реализацию асинхронного режима работы нейроморфных архитектур. Таким образом, мемристивные кроссбар-массивы обеспечивают простой способ аппаратной реализации матрично-векторных операций, являющихся основными, при аппаратном исполнении импульсных нейронных сетей (ИмНС).

Существуют различные типы кроссбар-массивов, но особое внимание уделяется двум: активным и пассивным. В активных кроссбар-массивах транзистор последовательно включен с мемристором (1Т1R ячейка) [2—5], что позволяет существенно снизить токи утечки через соседние ячейки и обеспечивает аккуратное считывание и программирование резистивного состояния мемристоров в массиве. Во время расчетов все транзисторы открыты, во время программирования резистивного состояния (в процессе обучения ИмНС) открыты только транзисторы программируемых мемристоров. В пассивных кроссбар-массивах (ПКМ) [6–7] вместо транзистора, последовательно с мемристором может использоваться селектор. В режиме чтения, на верхний электрод мемристивной ячейки подается напряжение, соответствующее напряжению чтения структуры, при этом нижний электрод заземлен. По сравнению с активными, пассивные кроссбар-массивы обладают такими преимуществами, как снижение энергопотребления, хорошая (по сравнению с 1T1R структурами) масштабируемость и облегченная 3D интеграция. Однако, при аппаратной интеграции пассивных кроссбар-массивов требуется учитывать влияние на точность вычислений в памяти следующих факторов:

• падения напряжения на интегральных соединительных линиях;
• нелинейности вольт-амперных характеристик реальных мемристорных структур;
• наличие конечного множества резистивных состояний мемристоров, ограничивающих количество возможных синаптических весов ИмНС, которые могут быть записаны в элемент кроссбар-массива.

Программная симуляция особенностей аппаратного исполнения кроссбар-массива в задаче распознавания изображений искусственными нейронными сетями была проведена в работах [8–14]. Данные о полученной точности распознавания с учетом особенностей аппаратной реализации кроссбар-массива представлены в табл. 1. Точность распознавая – это отношение количества корректно определенных изображений в процессе тестирования к общему количеству тестовых изображений, которые были представлены нейронной сети в процессе тестирования.

 

Таблица 1. Данные о точности распознавания изображений без учета и с учетом особенностей аппаратной реализации ПКМ, полученные на программных моделях [8–14]

Работа	База данных	Точность распознавания в инференс режиме программной алгоритмической модели нейросети, %	Точность распознавания в инференс режиме программного макета кроссбар-массива, %	Архитектура	Особенностей кроссбар-массива, которые учтены
2017 г. [8]	MNIST	98	77	Полносвязная сеть 784x300x34	Сопротивление проводов; Разброс проводимости от цикла к циклу;
2021 г. [9]	MNIST	97.5	79.9	Полносвязная сеть, перцептрон 784x100x10	Влияние температурных факторов;
2019 г. [10]	MNIST	93	70	Вероятностная нейронная сеть (PNN) 560 sub-кроссбаров (14x10)	Дискретный диапазон перестройки состояний проводимости; Токи утечки;
2016 г. [11]	MNIST	93	83	Двухслойная сеть 50x50 с применением метода опорных векторов (SVM)	Вариативность устройств; Сопротивление проводов; Электрический шум входного сигнала;
2023 г. [12]	MNIST	93	88	Полносвязная сеть, перцептрон 784x256x10	Дискретный диапазон перестройки состояний проводимости; Вариативность параметров от цикла к циклу;
2023 г. [13]	MNIST (3 класса 14х14 пк.)	93	70	Полносвязная сеть, перцептрон 196x3	Сопротивление проводов; Влияние температурных факторов;
2021 г. [14]	custom	93	80	Кроссбар 128x128	Сопротивление проводов

 

В табл. 2 приведены результаты по точности распознавания изображений, полученные в работах [15—18] на аппаратно реализованных ПКМ в инференс режиме.

 

Таблица 2. Результаты по точности распознавания изображений, полученные в работах [15—18] на аппаратно реализованных ПКМ в инференс режиме

Работа	База данных	Точность распознавания в инференс режиме программной алгоритмической модели нейросети, %	Точность распознавания в инференс режиме аппаратного модуля, %	Разница точности распознавания алгоритмической модели и аппаратного модуля, %	Архитектура
2019 г. [15]	MNIST 8x8	—	—	2	64 × 64 кроссбар-массив
2018 г. [16]	custom	95	79	16	20 × 20 кроссбар массив Мемристивные элементы Pt/Al2O3/TiO2−x/Ti/Pt
2021 г. [17]	custom	100	81	19	20 x 20 кроссбар-массив (2 штуки)
2024 г. [18]	MNIST	96	90.8	5.2	16 x 16 кроссбар-массив Импульсная нейронная сеть

 

Приведенные в табл. 1, 2 результаты показывают, что эффективность работы нейронных сетей при практической реализации, может снижаться, в худшем случае, более чем на 20% в сравнении с алгоритмическим исполнением. Успешная интеграция OxRAM в нейроморфные системы требует решения задач сопряжения режимов аналоговой перестройки проводимости мемристивных структур с цифровым управлением, определяя необходимость дискретизации уровней проводимости, а также решения проблем, обусловленных вариабельностью параметров и нелинейностью характеристик структур. Поэтому разработка моделей и эффективных средств проектирования мемристивных кроссбар-массивов, учитывающих данные особенности мемристоров, является актуальной и важной задачей.

Пассивный кроссбар-массив — это структура, состоящая из двух систем взаимно ортогональных проводящих линий первого и второго уровней металлизации с мемристивной композицией наноразмерных оксидных пленок между ними. Элементы энергонезависимой резистивной памяти образуются в оксидных пленках на пересечениях проводящих линий первого и второго уровней (рис. 1а).

 

Рис. 1. Мемристивный кроссбар массив: а – структура; б – реализация матрично-векторного умножения.

 

На строки кроссбара подается вектор входных напряжений , а со столбцов считывается вектор выходных токов , представляющий результат матрично-векторного умножения

$I_j={\sum }_{i=1}^m{V}_i\text{*}{G}_{i,j},$ (1)

где G – матрица проводимостей (весов) мемристивных элементов (рисунок 1), i и j – номера строки и столбца соответственно.

Такое вычисление при аналоговом подходе выполняется параллельно, с временной сложностью O(1), в отличии от программного исполнения операции векторно-матричного умножения. Обозначение O(1) описывает константную (постоянную) сложность. Временная сложность такого вычисления не зависит от размера кроссбар-массива и является постоянной величиной.

Представленный на рис. 1б принцип функционирования кроссбар-массива использует допущения о нулевом сопротивлении проводников, соединяющих мемристивные элементы, и о линейности вольт-амперных характеристик мемристоров. В этом идеализированном случае приложенные к строкам кроссбар-массива напряжения полностью падают на соответствующих мемристивных элементах, а каждому резистивному состоянию мемристивной структуры соответствует определенное фиксированное значение сопротивления. Выходные токи мемристивного массива, в соответствии с законами Ома и Кирхгоффа, будут определять результат векторно-матричного умножения в соответствии с выражением (1).

В реальных кроссбар-массивах соединительные линии имеют определенное сопротивление, и часть приложенных напряжений будет падать на отрезках соединений. Кроме этого, в отличие от программного исполнения, допускающего условно непрерывный диапазон изменения сопротивлений мемристоров, переключать состояния проводимости реальных структур можно только с определенным шагом, то есть диапазон резистивных состояний будет дискретным. При этом вольт-амперные характеристики (ВАХ) мемристивных элементов нелинейны, в результате чего сопротивление мемристора, соответствующее определенному резистивному состоянию, будет зависеть от приложенного к структуре напряжения. Все перечисленные факторы будут влиять на результат векторно-матричного умножения, особенно при увеличении размерности кроссбар-массива, и должны учитываться в процессе проектирования.

Целью данной работы является разработка методики моделирования мемристивных кроссбар-массивов с учетом сопротивлений соединительных линий, нелинейности ВАХ и дискретности диапазона резистивных состояний мемристивных элементов.

2. МЕТОДИКА МОДЕЛИРОВАНИЯ МЕМРИСТИВНЫХ КРОССБАР-МАССИВОВ

Для расчета выходных токов кроссбар-массива с учетом сопротивлений соединительных линий, нелинейности ВАХ и дискретности диапазона резистивных состояний мемристивных элементов, при выполнении данного исследования разработана методика моделирования, выраженная в виде итерационного алгоритма, позволяющего находить решение рассматриваемой комплексной задачи методом последовательных приближений. Блок-схема алгоритма представлена на рис. 2.

В качестве входных данных для выполнения алгоритма (блок 1 на рис. 2) используются:

• матрицы весов программно предобученной нейронной сети;
• минимальное R_MIN и максимальное R_MAX значения сопротивлений мемристивных элементов, измеренные экспериментально;
• сопротивления элементов межсоединений;
• ВАХ мемристоров, соответствующие множеству Ω дискретных резистивных состояний мемристоров;
• целевое значение невязки (параметр σ) – критерий завершения итерационных процедур.

 

Рис. 2. Блок-схема итерационного алгоритма моделирования мемристивных кроссбар-массивов с учетом сопротивлений соединительных линий, нелинейности ВАХ и дискретности диапазона резистивных состояний мемристивных элементов.

 

В блоке 2 выполняется перевод матрицы весов программно предобученной нейронной сети с диапазоном значений весов от 0 до 1 (где 0 и 1 соответствуют экспериментально измеренным резистивным состояниям с минимальной и максимальной проводимостью, соответственно) в сопротивления мемристивных элементов кроссбар-массива с учетом заданного диапазона возможных сопротивлений [R_MIN, R_MAX] в соответствии со следующим алгоритмом:

1) перевод весов w_ij матрицы, полученной на этапе обучения нейронной сети, в соответствующие сопротивления R_ij мемристивных элементов с использованием выражения:

$R_{ij}=R_{MAX}-\left(R_{MAX}-R_{MIN}\right)w_{ij},$ (2)

2) корректировка сопротивлений мемристивных элементов посредством приравнивания каждого сопротивления R_ij, полученного из выражения (2), к ближайшему из дискретного множества экспериментальных значений Ω.

В блоке 3 на каждой итерации выполняется расчет падений напряжения и токов, протекающих через мемристивные и соединительные элементы кроссбар-массива, в соответствии со схемой, приведенной на рис. 3.

 

Рис. 3. Схема мемристивного кроссбар-массива.

 

В соответствии с рис. 3, токи, протекающие через строки I_WLi,j, столбцы I_BLi,j и мемристивные элементы I_Di,j, можно представить в виде системы уравнений:

${I_{WL}}_{i,j}-{I_{WL}}_{i,j+1}-{I_D}_{i,j}=\mathrm{0,} \text{\hspace{0.33em}для} 1\le i\le m; 1\le j<n,$ ${I_{WL}}_{i,n}-{I_D}_{i,n}=\mathrm{0,} \text{ для\hspace{0.33em}}1\le i\le m,$

${I_D}_{\mathrm{1,}j}-{I_{BL}}_{\mathrm{1,}j}=\mathrm{0,} \text{ для\hspace{0.33em}} 1\le j\le n,$ ${I_D}_{i,j}+{I_{BL}}_{i-\mathrm{1,}j}-{I_{BL}}_{i,j}=\mathrm{0,} \text{\hspace{0.33em}для} 1<i\le m;1\le j\le n.$ (3)  

С учетом закона Ома, токи в уравнениях (3) можно выразить через напряжения следующим образом:

${I_{WL}}_{i\mathrm{,1}}=G_{WL}\left(V_i-{V_{WL}}_{i\mathrm{,1}}\right), для 1\le i\le m,$ 

${I_{WL}}_{i,j}=G_{WL}\left({V_{WL}}_{i,j-1}-{V_{WL}}_{i,j}\right), для 1\le i\le m; 1<j\le n,$

${I_{BL}}_{i,j}=G_{BL}\left({V_{BL}}_{i,j}-{V_{BL}}_{i+\mathrm{1,}j}\right), для 1\le i<m; 1\le j\le n,$ ${I_{BL}}_{m,j}=G_{BL}\left({V_{BL}}_{m,j}\right) для 1\le j\le n,$ 

${I_D}_{i,j}=G_{ij}\left({V_{WL}}_{i,j}-{V_{BL}}_{i,j}\right) для 1\le i\le m; 1\le j\le n.$ (4) 

Результирующая система уравнений для расчета токов и напряжений в мемристивном кроссбар-массиве с учетом сопротивлений межсоединений будет иметь вид:

$\left(2G_{WL}+G_{i\mathrm{,1}}\right)\text{*}{V_{WL}}_{i\mathrm{,1}}-G_{WL}\text{*}{V_{WL}}_{i\mathrm{,2}}-G_{i\mathrm{,1}}\text{*}{V_{WL}}_{i\mathrm{,1}}=G_{WL}\text{*}{V}_i для 1\le i\le m,$    

$\left(2G_{WL}+G_{i,j}\right)\text{*}{V_{WL}}_{i,j}-G_{WL}\text{*}{V_{WL}}_{i,j-1}-G_{WL}\text{*}{V_{WL}}_{i,j+1}-G_{ij}\text{*}{V_{BL}}_{i,j}=0$ 

$для 1\le i\le m; 1<j<n,$                                                                               (5)

$\left(G_{WL}+G_{i,n}\right)\text{*}{V_{WL}}_{i,n}-G_{WL}\text{*}{V_{WL}}_{i,n-1}-G_{i,n}\text{*}{V_{BL}}_{i,n}=0 для 1\le i\le m,$

$\left(G_{BL}+G_{\mathrm{1,}j}\right)\text{*}{V_{BL}}_{\mathrm{1,}j}-G_{\mathrm{1,}j}\text{*}{V_{WL}}_{\mathrm{1,}j}-G_{BL}\text{*}{V_{BL}}_{\mathrm{2,}j}=0 для 1\le j\le n,$

$\left(2G_{BL}+G_{i,j}\right)\text{*}{V_{BL}}_{i,j}-G_{i,j}\text{*}{V_{WL}}_{i,j}-G_{BL}\text{*}{V_{BL}}_{i-\mathrm{1,}j}-G_{BL}\text{*}{V_{BL}}_{i+\mathrm{1,}j}=0$

$для 1\le i\le m; 1<j<n,$ $\left(2G_{BL}+G_{m,j}\right)\text{*}{V_{BL}}_{m,j}-G_{m,j}\text{*}{V_{WL}}_{m,j}-G_{BL}\text{*}{V_{BL}}_{m-\mathrm{1,}j}=0 для 1\le j\le n,$

где G_i,j – проводимости мемристивных структур с индексами i, j; G_WL, G_BL – проводимости соединительных элементов строк и столбцов соответственно; V_WL и V_BL – падения напряжения на элементах соединительных линий; n и m – количество строк и столбцов в кроссбар-массиве.

Система уравнений (5) может быть представлена в матричном виде, как показано на рис. 4.

 

Рис. 4. Система уравнений (5) в матричном виде.

 

Для решения системы уравнений (5) была разработана программа на языке Python3 с использованием математического пакета SciPy.

В блоке 4 выполняется расчет уточненной матрицы проводимостей мемристивного кроссбар-массива с учетом нелинейности экспериментальных ВАХ мемристорных структур, соответствующих дискретным резистивным состояниям. Экспериментальные ВАХ, необходимые для расчета, хранятся в памяти в виде таблиц значений. Падения напряжения, рассчитанные при выполнении блока 3, используются для извлечения из табличных данных значений токов, соответствующих нелинейным ВАХ, после чего уточненные значения проводимости находятся как отношения токов, протекающих через мемристивные элементы, к падениям напряжения на них.

Для оценки качества текущего приближения, в блоке 5 выполняется расчет невязки ε в соответствии с выражением:

$\epsilon =\frac{max\left|G^x-G_0\right|}{max\left(G_0\right)},$ (6)

где G₀ – матрица проводимостей мемристивных элементов, полученная на предыдущей итерации; G^x – уточненная матрица проводимостей мемристивных элементов, полученная на текущей итерации.

Критерием завершения итерационных процедур является выполнение условия

$\epsilon <\sigma ,$ (7)

проверка которого выполняется в блоке 6.

Если условие (7) на текущей итерации не выполняется, то в блоке 7 происходит обновление значений матрицы проводимостей G₀ предыдущего приближения в соответствии с выражением:

$G_0=G_0+\frac{G^x-G_0}{k},$ (8)

где k – параметр, определяющий шаги приращения значений проводимости и используемый для достижения сходимости итерационных процедур.

При выполнении условия (7) осуществляется переход к блоку 8 и вывод значений выходных токов кроссбар-массива.

Предложенные математические модели и методика моделирования мемристивного кроссбар-массива с учетом сопротивлений соединительных линий, нелинейности ВАХ и дискретности диапазона резистивных состояний мемристивных элементов, были реализованы в виде пакета прикладных программ с помощью языка программирования Python3 и фреймворков PyTorch и NumPy.

3. РЕЗУЛЬТАТЫ

Для апробации предложенной методики моделирования мемристивных кроссбар-массивов с учетом сопротивлений соединительных линий, нелинейности ВАХ и дискретности диапазона резистивных состояний мемристивных элементов, были использованы экспериментальные ВАХ мемристивных структур на основе наноразмерной пленки TiOx, приведенные на рис. 5.

 

Рис. 5. Экспериментальные ВАХ мемристора на основе наноразмерной пленки TiOx для 20 циклов переключения. HRS и LRS – высокоомное и низкоомное состояния мемристора, соответственно.

 

В процессе моделирования были рассмотрены высокоомные участки ВАХ экспериментальной структуры, приведенные на рис. 6.

 

Рис. 6. Высокоомные участки экспериментальных ВАХ мемристора на основе пленки TiOx.

 

Диапазон напряжений 0–0.7 В соответствует допустимым напряжениям чтения, при которых мемристор не изменяет свое резистивное состояние. ВАХ, показанная на рис. 6 пунктирной линией, получена усреднением экспериментально полученных данных по 20 циклам переключения мемристора.

Как правило, используемое на практике напряжение чтения не превышает 0.2 В. Для такого напряжения чтения среднее значение тока, полученное из экспериментальных данных, составило 1.65⋅10^–5 А при среднеквадратичном отклонении σ = 1.95⋅10^–6 А. Для интеграции в программный симулятор, данные рассматриваемого участка экспериментальных ВАХ аппроксимировались полиномом третьей степени вида I(V) = aV3 + + bV + c. Коэффициенты полинома, рассчитанные с помощью метода наименьших квадратов, имели значения: a = 2.67⋅10^–4 А/В3; b = 6.24⋅10^–5 А/В; c = (1.07⋅10^–6 + i⋅2σ) А, i = 0,…, N_R, где N_R – число дискретных резистивных состояний мемристивной структуры. Шаг коэффициента c полинома, определяющий шаг по току между резистивными состояниями, равен 2σ. Такой шаг обусловлен тем, что, исходя из экспериментальных данных, при меньшем шаге однозначное определение текущего резистивного состояния элемента будет не всегда возможно.

Вольт-амперные характеристики, каждая из которых соответствует одному из резистивных состояний мемристивного элемента, полученные c использованием приведенной аппроксимации экспериментальных ВАХ, представлены на рис. 7.

 

Рис. 7. Семейство ВАХ для различных резистивных состояний, построенное по аппроксимации экспериментальных данных с шагом по току 2σ.

 

С целью симуляции работы кроссбар-массива была разработана программная модель импульсной нейронной сети (ИмНС) для задачи распознавания изображений рукописных цифр.

Предобученная ИмНС представляла собой полносвязную нейронную сеть из 196 входных и 50 выходных нейронов. Использовалась модель нейронов с адаптивным порогом срабатывания и правилом обучения STDP (правило синаптической пластичности) для синаптических связей (весов) между слоями нейронов. Обучение проводилось с использование открытой базы данных изображений рукописных цифр MNIST [19]. Полученная матрица весов после программного обучения представлена на рис. 8. Каждый квадрат размером 14×14 элементов на рис. 8 соответствует синаптическим мемристивным элементам одного из пятидесяти выходных нейронов.

 

Рис. 8. Матрица весов программно предобученной импульсной нейронной сети.

 

Полученные весовые коэффициенты элементов кроссбар-массива имели значения в диапазоне от 0 до 1, что в рассматриваемом эксперименте соответствовало диапазону сопротивлений мемристивных элементов 0.1–12 кОм (значению 0 весового коэффициента соответствовало сопротивление 12 кОм, а значению 1 весового коэффициента – сопротивление 0.1 кОм). Данная матрица весов была записана в модель кроссбар-массива в соответствии с описанным выше алгоритмом переноса весов.

Импульсная нейронная сеть тестировалась в инференс-режиме при фиксированной амплитуде импульсов входных напряжений, равной напряжению чтения резистивных состояний мемристоров. Тестирование проводилось на одинаковом количестве тестовых изображений (1000 штук), которые включали в себя 4 класса (4 цифровых символа). Использовалась модель кроссбар-массива с сопротивлением элементов межсоединений 1 Ом при амплитуде входных сигналов 0.5 В.

Результаты компьютерного моделирования, представленные на рис. 9, показывают, что даже при относительно небольшом размере кроссбар-массива (196×50), сопротивление межсоединений существенно влияет на падение напряжения на мемристивных элементах. На рис. 9 показаны распределения напряжений в кроссбар-массиве при сопротивлениях элементов соединений 10 Ом, 1 Ом, и 0.1 Ом. Максимальные отклонения падений напряжения от идеализированного случая с нулевым сопротивлением элементов межсоединений составило ≈90%, ≈60% и ≈2% соответственно. При увеличении размера кроссбар-массива максимальные отклонения падений напряжения будут пропорционально расти.

 

Рис. 9. Падения напряжения на элементах мемристивного кроссбар-массива при различных сопротивлениях R_line элементов межсоединений.

 

Очевидно, что падение напряжения на элементах соединительных линий можно уменьшить увеличением отношения сопротивлений резистивных элементов и элементов межсоединений R_D/R_line. Например, как показано на рис. 10, при сопротивлении элементов соединений 10 Ом, увеличение минимального сопротивления мемристивных элементов R_D от 1 кОм до 10 кОм увеличивает соотношение R_D/R_line и тем самым уменьшает падение напряжения на межсоединениях.

 

Рис. 10. Падения напряжения в кроссбар-массиве при сопротивлении элементов соединений R_line = 10 Ом и различных минимальных значениях сопротивлений мемристивных элементов R_D.

 

Визуализация работы итерационного алгоритма (рис. 2) в виде последовательных приближений показана на рис. 11. Высокая скорость сходимости алгоритма (малое число итераций) определяется тем, что, с учетом разброса сопротивлений мемристоров от цикла к циклу, достаточно обеспечить степень приближения результата, соответствующую разбросу ВАХ мемристорных структур в пределах 2σ.

 

Рис. 11. Пример работы итерационного алгоритма.

 

Предложенная методика моделирования мемристивных кроссбар-массивов с учетом сопротивлений соединительных линий, нелинейности ВАХ и дискретности диапазона резистивных состояний мемристивных элементов позволяет получать более реалистичную картину распределения токов и напряжений. На рис. 12 представлены токи, протекающие через мемристивные элементы в процессе функционирования мемристивного кроссбар-массива, для идеализированного случая с нулевым сопротивлением соединительных линий и с сопротивлением элементов соединений 1 Ом. Видно, что учет сопротивления соединений приводит к количественным и качественным изменениям результатов, проявляющимся в снижении уровней токов до 50%, а также в появлении отрицательных токов, то есть в смене направлений токов, протекающих через отдельные мемристивные структуры, на противоположные.

 

Рис. 12. Сравнение токов, протекающих через элементы мемристивного кроссбар-массива, при нулевом сопротивлении соединительных линий (слева) и сопротивлении элементов соединений 1 Ом (справа).

 

Применение предложенного алгоритма для моделирования инференс-режима импульсной нейронной сети с учетом сопротивлений соединительных линий кроссбар-массива, нелинейности ВАХ мемристоров и дискретности резистивных состояний, обеспечило точность распознавания рукописных цифр в среднем 72%. При этом в идеализированном случае, без учета перечисленных факторов, точность распознавания достигла 83%. Таким образом, при учете влияния характеристик кроссбар-массивов и особенностей ВАХ мемристивных элементов эффективность распознавания изображений импульсной нейронной сетью снижается на 9–11% относительно результатов, полученных в идеализированном варианте.

ЗАКЛЮЧЕНИЕ

В работе предложена модель мемристивного кроссбар-массива, позволяющая учитывать влияние особенностей его аппаратной реализации на результаты вычислений в памяти. С использованием экспериментальных ВАХ мемристивных элементов разработана методика учета падения напряжения на элементах соединений, дискретного шага перестройки уровней проводимости мемристивных элементов и нелинейности их вольт-амперных характеристик на работу кроссбар-массива.

Разработанная методика использована для оценки влияния особенностей аппаратной реализации кроссбар-массива на точность распознавания изображений рукописных цифр моделью полносвязной импульсной нейронной сети.

Полученные результаты тестирования импульсной нейронной сети в инференс-режиме демонстрируют снижение точности распознавания изображений на 9–11% в сравнении с результатами, полученными без учета падений напряжения на элементах соединений, дискретности состояний мемристоров и нелинейности их вольт-амперных характеристик, что свидетельствует о необходимости учета данных факторов и практической важности предложенной методики моделирования мемристивных кроссбар-массивов при проектировании нейроморфных модулей.

ФИНАНСИРОВАНИЕ

Работа выполнена при финансовой поддержке Министерства науки и высшего образования Российской Федерации – государственное задание в области научной деятельности FSEE-2020-0013.

КОНФЛИКТ ИНТЕРЕСОВ

Авторы заявляют, что у них нет конфликта интересов.

Авторлар туралы

A. Dudkin

Saint Petersburg Electrotechnical University ETU “LETI”

Хат алмасуға жауапты Автор.
Email: rynenator@gmail.com
Ресей, St. Petersburg

E. Ryndin

Saint Petersburg Electrotechnical University ETU “LETI”

Email: rynenator@gmail.com
Ресей, St. Petersburg

N. Andreeva

Saint Petersburg Electrotechnical University ETU “LETI”

Email: rynenator@gmail.com
Ресей, St. Petersburg

Әдебиет тізімі

Қосымша файлдар