Нейрокомпьютерные системы

На заре вычислительной техники (конец 1940-х начало 1950-х годов) существовало два подхода к разработке машин с "интеллектуальным" поведением.
Первый из подходов заключался в: 1) представлении знаний в виде множества атомных семантических объектов или символов; 2) манипуляциях с этим множеством символов по формальным алгоритмическим правилам. Эта символьно-алгоритмическая парадигма является основой так называемого традиционного искусственного интеллекта.
Одновременно с этим существовало другое направление исследований, использующее машины, архитектура которых моделировала мозг животных и обучалась под воздействием окружающей среды, а не программировалась каким-либо языком высокого уровня. Работы по так называемым нейронным сетям активно велись в 1960-х годах, затем утратили популярность в 1970-х и начале 1980-х, но во второй половине 1980-х возникла новая волна интереса к ним.

История и перспективы развития нейрокомпьютеров
Нейронные сети - новая модель параллельных и распределенных вычислений, один из основных архитектурных принципов построения машин 6-го поколения. В основу искусственных нейросетей положены следующие черты живых нейросетей, позволяющие им справляться с нерегулярными задачами: простой обрабатывающий элемент - нейрон;участие огромного числа нейронов в обработке информации;каждый нейрон связан с большим числом других (глобальные связи);изменяющиеся по весу связи между нейронами;массовый параллелизм обработки информации.

Персептрон
Нейрон сигмоидального типа имеет структуру, подобную модели МакКаллока-Питса, с той разницей, что функция активации является непрерывной и может быть выражена в виде сигмоидальной униполярной или биполярной функции. Униполярная функция, как правило, представляется формулой

Линейное разделение классов
Линейные решающие правила, построенные на основании разделения центров масс, могут ошибаться на примерах из обучающей выборки даже в тех случаях, когда существует и безошибочное линейное разделение. Однако метод центров масс полезен как средство определения начального значения вектора весов для алгоритма обучения персептрона.

Метод максимума правдоподобия
Рассмотрим задачу разделения двух классов, с каждым из которых связано вероятностное распределение в пространстве векторов

Виды сетей
Число нейронов в каждом слое может быть любым и никак заранее не связано с количеством нейронов в других слоях. Стандартный способ подачи входных сигналов: все нейроны первого слоя получают каждый входной сигнал. Наибольшее распространение получили трехслойные сети, в которых каждый слой имеет свое наименование: первый - входной, второй - скрытый, третий - выходной.

Алгоритм обратного распространения ошибки
Основу алгоритма обратного распространения ошибки составляет целевая функция, формулируемая, как правило, в виде квадратичной суммы разностей между фактическими и ожидаемыми значениями выходных сигналов.

Универсальный путь обучения
Возможность параллельного вычисления наиболее трудоемких этапов алгоритма, и желательно нейронной сетью.Обученный нейрокомпьютер должен с приемлемой точностью решать все тестовые задачи. Поэтому задача обучения становится многокритериальной задачей оптимизации: нужно найти точку общего минимума большого числа функций. Обучение нейрокомпьютера исходит из гипотезы о существовании этой точки.Обученный нейрокомпьютер должен иметь возможность приобретать новые навыки без утраты старых.

Элементы глобальной оптимизации
Все представленные ранее методы обучения нейронных сетей являются локальными. Они ведут к одному из локальных минимумов целевой функции, лежащему в окрестности точки начала обучения. Только в ситуации, когда значение глобального минимума известно, удается оценить, находится ли найденный локальный минимум в достаточной близости от искомого решения. Если локальное решение признается неудовлетворительным, следует повторить процесс обучения при других начальных значениях весов и с другими управляющими параметрами.

Математические основы радиальных сетей
Математическую основу функционирования радиальных сетей составляет теорема Т. Ковера о распознаваемости образов, в соответствии с которой нелинейные проекции образов в некоторое многомерное пространство могут быть линейно разделены с большей вероятностью, чем при их проекции в пространство с меньшей размерностью.

Автоассоциативная сеть Хопфилда
Отдельную группу нейронных сетей составляют сети с обратной связью между различными слоями нейронов. Это так называемые рекуррентные сети. Их общая черта состоит в передаче сигналов с выходного либо скрытого слоя на входной слой. Благодаря обратной связи при подаче сигнала на входы сети, в ней возникает переходный процесс, который завершается формированием нового устойчивого состояния, отличающегося в общем случае от предыдущего.

Решение задачи коммивояжера сетью Хопфилда
Моделирование работы сети Хопфилда показало, что лучшее по качеству решение дает сеть, нейроны которой имеют сигмовидную характеристику, а сеть, в которой нейроны имеют ступенчатые переходы, приходила к финальным состояниям, соответствующим маршрутам немного лучшим, чем случайные. Многочисленные исследования показывают, что качество решения задачи минимизации функции энергии (2) существенно зависит от выбора производной сигмовидной униполярной функции активации нейрона в окрестности нуля.

Персептронная сеть с обратной связью
Многослойные рекуррентные сети представляют собой развитие однонаправленных сетей персептронного типа за счет добавления в них соответствующих обратных связей. Обратная связь может исходить либо из выходного, либо из скрытого слоя нейронов. В каждом контуре такой связи присутствует элемент единичной задержки, благодаря которому поток сигналов может считаться однонаправленным (выходной сигнал предыдущего временного цикла рассматривается как априори заданный, который просто увеличивает размерность входного вектора сети).

Классификация без учителя
Простейшая мера близости объектов - квадрат евклидова расстояния между векторами значений их признаков (чем меньше расстояние, тем ближе объекты). Соответствующее определение признаков типичного объекта - среднее арифметическое значение признаков по выборке, представляющей класс. Другая мера близости, возникающая при обработке сигналов, изображений и т.п. - квадрат коэффициента корреляции (чем он больше, тем ближе объекты).

Адаптивная резонансная теория (АРТ)
Серьезная проблема для нейронных сетей - правильное соотношение стабильности и пластичности при запоминании образов. Существуют наборы эталонов (даже состоящие всего из 4-х векторов), которые при циклическом предъявлении в обучении дают никогда не сходящиеся наборы параметров сети. Предъявление всего одного нового образа в обучающем множестве часто приводит к долгому переобучению. Если сеть работает в реальном времени, например, обрабатывает сенсорную информацию, то обучающее множество может все время меняться.

Интеллектуальные информационные системы в условиях неопределенности и риска
С помощью символьной обработки информации не удается решить прикладные задачи многих предметных областей, если для них невозможно получить полную информацию и если их определение недостаточно полно. Такая ситуация характерна для: сложных технических систем; систем экономического планирования; социальных систем большой размерности; систем принятия решений и т.п.

Значимость параметров и сигналов. Сокращение описания (контрастирование) сетей
Сокращение множества параметров и входных сигналов обученной нейронной сети преследует цели: упрощение специализированных устройств;сокращение объема используемой памяти и увеличение быстродействия;удешевление сбора данных;обеспечение (или облегчение) интерпретации результатов обработки данных. Существует два способа сокращения (редукции) описания: редукция "снизу вверх" - постепенное удаление параметров от наименее значимых к более значимым;редукция "сверху вниз" - выделение наиболее значимых параметров и постепенное дополнение их менее значимыми.

Электронная реализация нейронных сетей
При решении плохо формализованных задач моделирования, прогнозирования и распознавания, которые обычно сводятся к конструированию областей многомерного пространства, достаточно малоразрядных представлений входов и весов и операций с фиксированной точкой. Это обусловлено тем, что входные сигналы нормируются и количество их значений невелико.При решении хорошо формализованных задач (например, задач комбинаторной оптимизации) существенна точность вычислений, что требует полноразрядных представлений чисел и операций с плавающей точкой.

Организация ЭВМ и систем. Однопроцессорные ЭВМ. Часть 1

С момента своего возникновения человек старался облегчить свой труд с помощью различных приспособлений. В начале это касалось только физического труда, а затем также и умственного. В результате уже в XVII веке начали появляться первые механические устройства, позволяющие выполнять некоторые арифметические действия над числами. Они предназначались, в основном, для коммерческих расчетов и составления навигационных таблиц.
Совершенствование технологии обработки металлов, а затем и появление первых электромеханических устройств типа электромагнитных реле привело к интенсивному совершенствованию вычислительных устройств. Кроме того, совершенствование вычислительных устройств было обусловлено все возрастающим объемом информации, требующей переработки.

Два класса ЭВМ

Организация ЭВМ и систем. Однопроцессорные ЭВМ. Часть 2

Памятью ЭВМ называют совокупность устройств, служащих для запоминания, хранения и выдачи информации. Отдельные устройства, входящие в эту совокупность, называются запоминающими устройствами или памятями того или иного типа. В настоящее время и ЗУ, и память стали практически синонимами.
Производительность ЭВМ и ее возможности в большой степени зависят от характеристик ЗУ, причем в любой ЭВМ общего назначения используют несколько типов ЗУ.

Построение внутренней памяти

Организация ЭВМ и систем. Однопроцессорные ЭВМ. Часть 3

Вводом/выводом (ВВ) называют передачу данных между ядром ЭВМ, включающим в себя процессор и ОП, и периферийными устройствами (ПУ).
Система ВВ – это единственное средство общения ЭВМ с внешним миром. Ее возможности в серийных ЭВМ представляют собой один из важнейших параметров, определяющих выбор машины для конкретного применения.
Несмотря на разнообразие ПУ, в настоящее время разработано несколько стандартных способов их подключения к ЭВМ и программирования ВВ.

Принципы ввода / вывода в микро ЭВМ

Организация ЭВМ и систем. Однопроцессорные ЭВМ. Часть 4

Управляющие данные от процессора называются также командными словами или приказами. Они инициируют действия, не связанные непосредственно с передачей данных (запуск устройства, запрещение прерываний, установка режимов и т.д.).
Управляющие данные от ПУ называются словами состояния. Они содержат информацию об определенных признаках (о готовности устройства к передаче данных, о наличии ошибок при обмене и т.д.). Состояние обычно представляется в декодированной форме – один бит для каждого признака.

Представление информации в ЭВМ

Организация ЭВМ и систем. Однопроцессорные ЭВМ. Часть 5

Функции центральной микроЭВМ не определены. Известно только, что в процессе обработки программы центральная микроЭВМ периодически обращается за обслуживанием к периферийной микроЭВМ. Этот период обращения определяется не каким-либо таймером, а потребностями задач, решаемых центральной микроЭВМ.

Генератор звуковой последовательности

LANtastic v6.0 Руководство по установке и управлению

Руководство по установке и управлению. Это та книга, которую вы читаете в данный момент. Кроме описания процесса установки ОС LANtastic, эта книга содержит полные инструкции по управлению системой, установке уровня доступа пользователей к ресурсам и описание способов повышения эффективности работы сети. В приложениях к руководству содержится полное описание сообщений об ошибках, выдаваемых системой при ее использовании в среде DOS, информация о наиболее часто используемых командах и их параметрах. Предметный указатель в конце книги содержит ссылки на данную книгу и другие книги или файлы документации.
Интерактивный справочник по LANtastic. Эта простая в использовании программа автоматически устанавливается в каталог ARTIDOCS системы LANtastic. Справочник включает описание команд и их параметров для использования LANtastic из командной строки DOS.

Возможности LANtastic
Установив сеть LANtastic вы сможете: совместно использовать файлы и программы, хранящиеся на дисках всех компьютеров вашей сети; использовать принтеры и CD-ROM-диски, присоединенные к другим компьютерам; передавать и принимать сообщения с помощью встроенной электронной почты; вести диалог с другими пользователями сети в режиме реального времени; использовать свой компьютер для приема и передачи звуковых сообщений и вести беседу со своими коллегами через сеть с помощью специальных адаптеров Artisoft Sounding Board

Установка программ
Сначала вы должны установить сетевое оборудование (адаптеры, кабели и т.п.). При установке адаптеров следуйте приложенным к ним инструкциям. Если вы намерены использовать Windows-интерфейс LANtastic 6.0, вам нужно установить Windows до начала инсталляции LANtastic. При установке Windows следуйте рекомендациям, приведенным в документации Windows. Удостоверьтесь, что на диске вашего компьютера достаточно свободного пространства

Модернизация и конфигурирование сети LANtastic
Приобретя upgrade-версию сетевой ОС LANtastic, вы захотите установить новую версию LANtastic на каждый компьютер сети. В данной главе содержатся рекомендации по замене программ LANtastic на новые версии в работающей сети и показаны различные методы, используемые при модернизации сети или изменению ее конфигурации.

Поддержка доступа к серверам NCP и SMB
LANtastic 6.0 обеспечивает возможность доступа к серверам таких сетей, как NetWare (Novell), Windows for Workgroups , LAN Manager и Windows NT (Microsoft), LAN Server и AS/400 (IBM); при этом LANtastic-клиент может использовать диски, принтеры и другие устройства, подключенные к серверу. Можно задать режим автоматического подключения к серверам в процессе установки LANtastic или позднее.

Планирование счетов, ресурсов и безопасности данных
В этой главе рассказано как определить тип счетов пользователей и разделяемые ресурсы для вашей сети. Кроме того, здесь описаны методы мониторинга серверов и обеспечения безопасности данных в сети.

Счета пользователей
В этой главе рассказано об установке счетов пользователей сети LANtastic при работе в DOS. Если вам потребуется помощь в решении вопроса о том, какие возможности LANtastic следует использовать,прочтите еще раз главу 5.

Ресурсы серверов
В этой главе рассказано о создании разделяемых ресурсов, специально предназначенных для отдельных пользователей или групп. Здесь содержится информация о создании ресурсов, связанных с дисками или каталогами, установке прав доступа и средств обеспечения безопасности данных, а также о создании принтерных ресурсов.

Установка параметров сервера
В этой главе рассказано как установить Стартовые Параметры Сервера LANtastic. Стартовые параметры используются при загрузке программы SERVER. Корректная установка параметров сервера имеет очень важное значение, особенно в тех случаях, когда в компьютере установлено несколько сетевых адаптеров или к серверу имеет доступ более пяти пользователей одновременно. Кроме того, установка параметров сервера поможет вам повысить эффективность сетевого обмена

Управляющие каталоги
В сетевой операционной системе LANtastic все счета пользователей, описания ресурсов и параметры серверов сохраняются в сетевом управляющем каталоге. По умолчанию этот каталог называется \LANTASTI.NET, однако вы можете создать управляющий каталог с другим именем или иметь несколько различных управляющих каталогов для разных вариантов использования сети.

Управление печатью
В этой главе рассказано о возможностях управления печатью в сети LANtastic. Общие инструкции по использования принтеров в сети вы можете найти в Руководстве пользователя. Рекомендации по управлению сетевыми принтерами из прикладных программ с помощью резидентной программы LANPUP приведены в Приложении D.

Мониторинг серверов и безопасность данных
Прежде, чем вы начнете читать эту главу, вернитесь к гл. 5, содержащей информацию о возможностях системы обеспечения безопасности данных и управления производительностью серверов. В главе 5 также содержатся общие рекомендации по установке прав доступа к ресурсам. В соответствии с приведенными рекомендациями вы можете организовать эффективный доступ к данным и их надежное хранение.

Создание группы СПД
В окне LANtastic Network Manager нажмите кнопку Счета. Нажмите левую кнопку мыши в поле Группы СПД, раскройте меню Редактирование и выберите в нем команду Добавить. После этого на экран будет выведено диалоговое окно Группа СПД. Наберите имя группы и ее описание в соответствующих полях диалогового окна и нажмите кнопку ОК. Установка прав доступа к ресурсам сервера для СПД-группы описана в главе 13 (раздел "Установка СПД для ресурсов сервера").

Создание разделяемых дисковых ресурсов
После того, как вы ответите на приведенные в главе 5 вопросы, вы будете готовы создать разделяемые ресурсы на вашем сервере. Для того, чтобы пользователи могли получить доступ к дискам, каталогам и принтерам вашего сервера, вы должны установить физические ресурсы сервера (диски и принтеры) в качестве разделяемых сетевых ресурсов. Программа NET_MGR обеспечивает возможность организации разделяемых ресурсов.

Установка стартовых параметров сервера
LANtastic V6.0 имеет новую модульную структуру, разработанную специально для того, чтобы можно было "отключать" отдельные компоненты сервера, если они не используются на данном компьютере. Специальная команда Стартовые параметры сервера обеспечивает удобное управление модулями сервера LANtastic. Например, в том случае, когда в сети установлен единственный принтер, не имеет смысла загружать принтерную компоненту сервера на остальных компьютерах. Модульная структура сервера позволяет более экономно расходовать память.

Команды LANtastic и их параметры
В этом приложении содержится список наиболее часто используемых команд LANtastic и их параметров. Для каждого описанного здесь объекта приведено имя, вслед за которым указано назначение данной команды или параметра, синтаксис. Кроме того, приведено описание дополнительных параметров, если они есть.

Изменения SYSTEM.INI и WIN.INI
Программа INSTALL при установке LANtastic для Windows вносит некоторые изменения в файлы SYSTEM.INI и WIN.INI. Эти файлы обычно хранятся в каталоге WINDOWS. Данное приложение содержит информацию о вносимых в процессе инсталляции изменениях. Вы можете при необходимости самостоятельно внести дополнительные изменения в конфигурационные файлы Windows с помощью текстового редактора (например, Блокнот Windows или DOS EDIT).

Сообщения об ошибках
В данном разделе приведен алфавитный список сообщений об ошибках, выдаваемых программами LANtastic. Текст сообщения выделен жирным шрифтом, объяснение причины - шрифтом Helvetica, и рекомендации по устранению - обычным шрифтом. Вслед за списком ошибок приведен список кодов этих ошибок для проверки возвращаемого значения в пакетных файлах.

Не удалось открыть файл ERRFILE.BIN
Программа VEM-MGR нашла файл ERRFILE.BIN, но не смогла его открыть. Удостоверьтесь, что файл ERRFILE.BIN доступен для чтения и заданное переменной FILES= (в файле CONFIG.SYS) число открытых файлов достаточно велико. Could not write LASTDRIVE= parameter to new CONFIG.SYS. New CONFIG.SYS must be built manually

Программа LANPUP
LANPUP является резидентным аналогом программы NET. Она позволяет использовать большинство функций NET непосредственно из прикладных программ DOS: подключение к серверам и отключение от них; подключение и отключение сетевых дисков; подключение и отключение сетевых принтеров; изменение состояния принтерных и почтовых очередей; передача и чтение сообщений LANtastic Mail; передача всплывающих сообщений.

---