В чем разница между сетью Хэмминга и Хопфилда?

Сети Хопфилда и Хэмминга — это старые коннекционистские сети, используемые для классификации зашумленных двоичных входных данных.

Сети Хопфилда являются основой для сетей Хэмминга, поэтому давайте сначала сосредоточимся на них.

Сеть Хопфилда — это набор нейронов, которые выполняют классификацию посредством взаимного торможения, как показано на рисунке ниже из Википедии:

Обратите внимание, что нейроны не похожи на ваши типичные биологически правдоподобные нейроны, они имеют два состояния «+1» и «-1». Их правило обновления, которое вынуждает их переходить в шаблон вывода, включает эти два состояния.

Сеть Хэмминга — это двухслойная сеть, как показано на этом рисунке (взято отсюда ), где данные идут снизу:

Как видите, второй слой, иногда называемый слоем MaxNet, идентичен сети Хопфилда, однако входной слой напоминает классический однослойный персептрон. Этот однослойный персептрон обучается в соответствии с расстояниями Хэмминга входных данных.

С точки зрения производительности, как показано в заключении Липпмана и др. « Сравнение нейронных сетей Хэмминга и Хопфилда для классификации образов», сети Хэмминга обычно превосходят сети Хопфилда.