В области когнитивных наук Алан Тьюринг наиболее известен запуском ИИ в своей книге « Вычислительные машины и интеллект» (1950). Однако это был не первый его вклад в когнитивные науки, в своем неопубликованном техническом отчете 1948 года « Машины разведки » он предвидел коннекционизм со своими нейронными сетями B-типа .
Модель представляет собой рекуррентную нейронную сеть, которая подключается случайным образом и синхронизируется глобальными часами. Нейроны имеют два входа -ворота. Соединения находятся в одном из двух состояний: они либо передают свой сигнал идеально ( и ), или заменить его на ( и ). Алгоритм обучения корректирует состояния соединений.
К сожалению, директор Национальной физической лаборатории отверг работу Тьюринга, и она не была опубликована до значительного времени после смерти Тьюринга. Первоначальная рукопись, хотя и предшествовала обучению Хебба (1949 г.) и персептронам Розенблатта (1957 г., и они не были такими сложными, только с прямой связью, а не с рекуррентной).
Были ли нейронные сети Тьюринга типа B самыми ранними нейроподобными моделями вычислений, способными к обучению?
Хотя по современным стандартам подход Тьюринга устарел и был вытеснен более реалистичными и общими подходами (например, такими, которые включают динамическое обновление Хебба на взвешенных соединениях без необходимости центральной синхронизации часов). Когда состояние коннекционизма впервые превзошло нейронные сети типа B Тьюринга? Существуют ли современные методы лечения нейронных сетей типа B и их способности к обучению?
Меня это интересует в основном с исторической точки зрения, а не с точки зрения точности модели Тьюринга при нынешних интерпретациях. Хотя современные знания помогут ответить, когда другие модели превзойдут модель Тьюринга.
Насколько мне известно, в контексте вопроса первая нейроподобная модель вычислений, способных к обучению , или, если уж на то пошло, вычислительная модель нейронной обработки и обучения, была предложена в McCulloch/Pitts (1943) . , что также признается в некоторых текстах о неорганизованных машинах Тьюринга (« нейронные сети типа A-/B» ). Тьюринг не ссылается на эту статью в своем отчете 1948 года, однако статья Маккаллоха / Питтса, представляющая собой центральную ссылку для персептронов Розенблатта, также регулярно игнорируется в исторических отчетах о коннекционизме.
Общепризнано, что исходные неорганизованные машины Тьюринга имеют некоторые ограничения в отношении определенных логических операций, таких как XOR (см., например , Teuscher/Sanchez 2001 ). В этом отношении (которое для краткости можно назвать просто историческим нарративом) они подобны персептрону. Таким образом, можно с уверенностью предположить, что по крайней мере коннекционизм превзошел неорганизованные машины типа B, когда было показано, как реализовать такие функции (например, в печально известном Minsky/Papert 1969 — имейте в виду, что это не обязательно подразумевает общий логический недостаток исходного модели).
Относительно немногочисленные статьи, посвященные этой теме за последние 20 лет , действительно выражают наблюдение, что неорганизованные машины Тьюринга в значительной степени игнорировались и, таким образом, представляют собой интересную тему для более подробного анализа, но см. монографию по этому вопросу в Teuscher (2002). .
• Боккато, Л., Соарес, Э.С., Фернандес, ММЛП, Сориано, Д.К., и Аттукс, Р. (2011). Неорганизованные машины: от идей Тьюринга до современных коннекционистских подходов. Международный журнал исследований в области естественных вычислений , 2(4).
• Коупленд, Б.Дж., и Праудфут, Д. (1996). Об ожиданиях Алана Тьюринга коннекционизма. Синтез , 108(3), 361–377. дои: 10.1007/BF00413694
• Коупленд, Б.Дж., и Праудфут, Д. (1999). Забытые идеи Алана Тьюринга в компьютерных науках. Scientific American (280), 99–103.
• МакКаллок, В.С., и Питтс, В. (1943). Логическое исчисление идей, имманентных нервной деятельности. Вестник математической биофизики , 5, 115–133.
• Минский М. и Пейперт С. (1969). Персептроны. Введение в вычислительную геометрию . Кембридж, Массачусетс: MIT Press.
• Тойшер, К. (2002). Коннекционизм Тьюринга. Исследование архитектур нейронных сетей . Лондон: Springer-Verlag.
• Тойшер, К., и Санчес, Э. (2001). Возрождение забытых коннекционистских идей Тьюринга: изучение неорганизованных машин. В RM French & JP Sougné (Eds.), Коннекционистские модели обучения, развития и эволюции (стр. 153–162): Springer London.
• Вебстер, К.С. (2012). Неорганизованные машины Алана Тьюринга и искусственные нейронные сети: его замечательная ранняя работа и будущие возможности. Эволюционный интеллект , 5(1), 35-43. doi: 10.1007/s12065-011-0060-5
Дэн М.
пользователь3132