Uploaded by clio est

Лекция 1 ИНС

advertisement
1
Хайкин С. Нейронные сети: полный курс, 2-е издание: Пер.с англ. –М.: Изд.дом
"Вильямс", 2006. – 1104 с.
2
Уоссерман Ф. Нейрокомпьютерная техника. Теория и практика. М: 2006. 184 с
3
Осовский С. Нейронные сети для обработки информации /Пер. с польского И.Д.
Рудинского. – М.: Финансы и статистика, 2002. – 344 с.
1. Что такое ИНС? Почему и для чего?
2. Задачи, решаемые ИНС.
3. Классификация ИНС.
4. Достоинства и недостатки ИНС.
5. Обучение ИНС, основные парадигмы.
6. Примеры реализации.
математическая модель
машинного обучения
распознавания образов дискриминантного анализа
методов кластеризации
математики
многопараметрическая задача нелинейной оптимизации
кибернетики
адаптивного управления
алгоритмы
робототехники
вычислительной техники программирования
параллелизма[3]
искусственного интеллекта
философского
коннекционизма
структурном подходе
естественного интеллекта
компьютерных алгоритмов
программируются
обучаются
алгоритмами
обобщение
Нейронные сети используются для решения сложных задач, которые требуют
аналитических вычислений подобных тем, которые делает человеческий мозг.
Самыми распространенными задачами, для решения которых применяются
нейронные сети, являются:
 1. Классификация (пример применения - распознавание образов, принятие
решений, управление и др.).
 2. Кластеризация. Под кластеризацией понимается разбиение множества
входных сигналов на классы, при этом ни количество, ни признаки классов
заранее не известны. После обучения такая сеть способна определять, к
какому классу относится входной сигнал. Сеть также может сигнализировать
о том, что входной сигнал не относится ни к одному из выделенных классов
— это является признаком появления новых данных, отсутствующих в
обучающей выборке. Таким образом, подобная сеть может выявлять новые,
неизвестные ранее классы сигналов.
 3. Прогнозирование. Способности нейронной сети к прогнозированию
напрямую следуют из её способности к обобщению и выделению скрытых
зависимостей между входными и выходными данными. После обучения сеть
способна предсказать будущее значение некой последовательности на основе
нескольких предыдущих значений и (или) каких-то существующих в
настоящий момент факторов.
http://www.machinelearning.ru
Обучение с учителем (supervised learning),— это тип тренировок присущий
таким проблемам как регрессия и классификация. Вы выступаете в роли
учителя, а ИНС в роли ученика. Вы предоставляете входные данные и
желаемый результат, то есть ученик посмотрев на входные данные "поймет",
что нужно стремиться к тому результату который вы ему предоставили.
В основном обучение с учителем применяется для решения двух типов задач:
классификации и регрессии.
 В задачах классификации алгоритм предсказывает дискретные значения,
соответствующие номерам классов, к которым принадлежат объекты. В
обучающем датасете с фотографиями животных каждое изображение будет
иметь соответствующую метку — «кошка», «коала» или «черепаха».
Качество алгоритма оценивается тем, насколько точно он может правильно
классифицировать новые фото, например, с коалами и черепахами.
 Задачи регрессии связаны с непрерывными данными. Один из примеров,
линейная регрессия, вычисляет ожидаемое значение переменной y,
учитывая конкретные значения x.
Обучение без учителя (unsupervised learning) или самообучение. У ИНС есть набор
данных, и нет явных указаний, что с ним делать. Нейронная сеть пытается
самостоятельно найти корреляции в данных, извлекая полезные признаки и
анализируя их. В основном используется для решения задач кластеризации
(например, группировки данных по определенным параметрам). Допустим вы
подаете на вход 10000 статей из интернета и после анализа всех этих статей ИНС
сможет распределить их по категориям основываясь, например, на часто
встречающихся словах.
Кроме того, этот подход используется для:
 Обнаружение аномалий. Например, банки могут обнаружить мошеннические
операции, выявляя необычные действия в покупательском поведении клиентов
(подозрительно, если одна кредитная карта используется в Калифорнии и Дании в
один и тот же день). Похожим образом, обучение без учителя используют для
нахождения выбросов в данных.
 Ассоциации. Например, распознавание при наличии неполных данных или
ситуативное (контекстное) распознавание. Пример ассоциаций: некоторые
характеристики объекта коррелируют с другими признаками. Рассматривая пару
ключевых признаков объекта, модель может предсказать другие, с которыми
существует связь.
 Автоэнкодеры. Автоэнкодеры принимают входные данные, кодируют их, а затем
пытаются воссоздать начальные данные из полученного кода (например,
автоэнкодеры могут удалять шум из видеоданных, изображений или медицинских
сканов, чтобы повысить качество данных).
Обучение с подкреплением (reinforcement learning).
Такой способ применим тогда, когда мы можем, основываясь
на результатах, полученных от ИНС, дать ей оценку.
Например, мы хотим научить ИНС играть в простую игру и
каждый раз, когда ИНС будет набирать много очков, мы
будем ее "поощрять" до тех пор, пока она не будет давать
"хороший" результат.
 В 2013 г. считалось, что создание масштабных нейронных сетей обходится
очень дорого с точки зрения вычислительных ресурсов. Например,
компании Google для создания сети, которая научилась всего лишь
распознавать кошек в серии роликов YouTube, пришлось задействовать
примерно 1000 серверов, что эквивалентно 16 тысячам процессорных ядер.
Построенная сеть характеризовалась 1,7 млрд. параметров, виртуально
отражающих связи между нейронами. Позднее компания Google создала
сеть с 11,2 млрд. параметров, а Ливерморская национальная лаборатория
Лоренса — с 15-ю млрд.
 На 32-й Международной конференции по машинному обучению в Лилле
компания Digital Reasoning заявила о создании нейронной сети со 160ю млрд. параметров — самой большой ИНС в мире по состоянию на
середину 2015 г. По словам технического руководителя Digital Reasoning
Мэтью Рассела (Matthew Russell), эта нейронная сеть способна не только
читать, но и понимать человеческую речь, при этом учитывая ее контекст.
Самая большая ИНС работает с высокой точностью: если разработчики
Google сумели достичь результата 76,2%, а Стэнфордский университет —
75%, то показатель Digital Reasoning составил 85,8%.9
 В 2017 г. дочерняя компания Intel с названием Movidius выпустила на
рынок устройство Neural Compute Stick. Оно имеет размеры,
сопоставимые с обычной флешкой, при этом внутри находится мощная
нейронная сеть с функцией глубокого машинного обучения. Компания
Movidius уже предлагает купить на рынке устройство Neural Compute
Stick всего за $79.
Следует отметить и другие достижения нейросетей:
 Компания Google: технология AlphaGo выиграла у чемпиона мира по
игре Го; в марте 2016 г. корпорация продала на аукционе 29 картин,
нарисованных нейросетями.
 Компания Microsoft: проект CaptionBot распознает изображения на
снимках и автоматически генерирует подписи к ним, проект WhatDog
по фотографии определяет породу собаки, сервис HowOld определяет
возраст человека на снимке.
 Компания Яндекс: приложение "Авто.ру" распознает автомобили на
снимках; нейросеть записала музыкальный альбом; проект LikeMo.net
учится рисовать в стиле известных художников.
Download