Wfoojjaec объясняет: Что такое нейронная сеть?

Как мы предсказывали в 2016 году, искусственный интеллект (AI) включает в себя текущую технологическую революцию в здравоохранении человека. Это также представляется, что нервные сети могут быть следующей границей в продвижении вычислительной технологии. Поскольку мы увеличиваем наше понимание человека Connectome и способом нашего мозга справляться с информацией, наша способность понимать свою феноменальную информацию о производительности в тандеме. Это привело к неврологическим вычислениям в цвету популярности инструментов.

Это руководство предназначено для краткого, но тщательного грунтовки по нейронным сетям. Если вы остались с вопросами после прочтения, пожалуйста, сообщите нам о комментариях: мы можем решить ваши вопросы в обновлении или на будущую статью.

Итак, без дальнейшего ADO ...

Что такое нейронная сеть?

Нейронная сеть, также известная как нейроморфная система, является системой аппаратного обеспечения и / или программного обеспечения, предназначенного для эмуляции некоторых аспектов человеческого мозга. Есть много типов искусственных нейронных сетей, или Аннс, поэтому мы на мгновение мы покрываем это. На данный момент давайте рассмотрим оборудование.

Сравнение компьютеров к мозгу проходит как широкие, так и глубокие. Это потому, что как мозги, так и компьютеры аналогичны как на семантическом, так и на структурном уровне. Они оба запущенные сетки сетки нескольких слоев, отвечающие за обработку информации с высокой томой. Они оба имеют рабочую память, буфер которого может сразу или переполняться. У них оба имеют «холодное хранение», которое организовано в грубой семантической иерархии через поверхность мозга, аналогичной, как данные хранятся в разных местах на жестком диске. Они оба состоят из сети узлов, важность которой индивидуально выражается «весами» их связей. Их узлы общаются с использованием серии электрических шипов, которые имеют данные, встроенные в последовательность.

Аналогия разрушается, когда вы сравниваете мозг к процессору, однако из-за термической привычки мозга «распараллелизовать все вещи». Процессоры смотрят в конвейеров данных, так как регионы мозга нет. Более приблизительная аналогия будет сравнивать мозг, как сумма его подключения к FPGA. FPGA предназначены для подготовки пользователя после изготовления. Нейронная пластичность означает, что даже после оборудования мозга «полностью созревало», его синаптическое и электрическое программное обеспечение все еще могут получать обновления. По мере изменения окружающей среды мозг адаптируется.

Глаз не камера, за исключением того, что в важном смысле это; Структура сетчатки расположена в упорядоченной карте визуального поля, которая наступает весь путь вдоль оптического нерва к визуальной коре. Мы можем диагностировать, где, как должно произойти повреждение зрительного нерва, основанная на части визуального поля, имеющего проблемы. Каждый нейрон в обработке слоев сетчатки сообщает выше по течению. Вы можете сравнить Retina - устройство захвата глаз - к сетке датчиков на CCD-камеру, например, на одном Hubble использует для захвата его изображений. Зеркала, CCD и ретины все просто захватывают двумерный поток фотонов, который они получают. Двумерный фотонный поток также называется видео.

Точно так же мозг не компьютер, за исключением того, что оно вроде. У нас даже есть внутренние часы, которые организуют много стрельбы мозга вовремя, подтягивая их в упорядоченную и слоистую композицию, не в отличие от песни.

Таким образом, нейронные сети обычно уточняют трех основных компонентов: нейронная сеть - это система, состоящая из нейронов или узлов, а также их соединения и веса. Он также должен обладать какой-то функцией распространения. Некоторые нейронные сети способны наблюдать за своими результатами и изменять свой подход к задаче.

Почему имитирует мозг?

Короче говоря, мы хотим имитировать мозг, потому что мозги действительно хороши в том, что они делают. Они быстрые, светлые и очень низкие мощности. Считается, что человеческий мозг имеет информационную пропускную способность к петашимости - намного больше, чем любой один на один компьютер, который мы когда-либо построили. (Распределенные суперкомпьютеры не считаются.) И мозг работает около двадцати ватт. Эта выигрышная комбинация частично из-за его физической структуры и частично из-за уникального способа информации, проходит через нервную систему. Мозги работают параллельно и серийный, двоичный и аналоговый, все в то же время.

Когда нейроны огонь, эти импульсы путешествуют остоны в серии. Но нейроны располагаются в кортикальных колоннах, а кортикальные колонны расположены в области мозга. Таким образом, целые области мозга многих клеток могут работать на той же задаче, параллельно.

Нейроны общаются друг с другом путем получения, интерпретации, а затем размножая крошечную волну электричества вниз по длине аксона. Это чрезвычайно низкая мощность, потому что маленькая шипение деполяризации по всей мембране осуществляется путем просто сотрудничества с электрохимическим градиентом за пределами клетки. Кортичные нейроны, в частности, имеют глубокую разветвленную структуру. Они соединяются в моде «Многие к одной» своим соседям, которые являются физически рядом с ними, и к «восходящим» нейронам, которые приходят перед ними в информационном потоке. Они также соединяются в «однозначном» манере при связи с ними коллеги. Чтобы управлять всеми этими поверхностями, они проанализируют «вес» соединений в порядке важности построения синапсов.

Нейроны также обрабатывают информацию в аналоговом смысле: нейроны делают аналоговый поглощение, подняв все перекрывающиеся, в реальном времени мерцает входных данных от дендритов. Это физиологическое преобразование Фурье. Но нейроны также являются сильно бинарными, когда речь идет о том, как они передают свои сообщения. Сигнал нейрона изготовлен из электрических шипов, организованных в момент времени, а шипы не различаются по амплитуде. Нейрон либо шипов, либо нет. Шипы состоят из крошечного путешествия зап. Спайк-поезда - это разграниченные временем последовательности электрических волн, которые содержат фрагменты данных. Это почти как приемник Morse Code.

Аппаратное обеспечение против программного обеспечения нейронных сетей

Приближаясь функции мозга как возникающее свойство своей физической структуры приводит нас к аппаратному интерпретации «нейронной сети». IBM TrueNorth, произведенный в 2014 году, был многокоровным чиплом Neuromophic CMOS, размещающий сверточную нейронную сеть. У TrueNorth имел собственную программную экосистему, включая язык программирования, библиотеки, библиотеки и целую IDE. Точно так же ECOSYSTEM INTEL Loiii Ecosystem - это аппаратная нейронная сеть с соответствующей структурой программного обеспечения. Loiii - это нейроморфный чип, а Lava - это путь доступа к программному обеспечению к властям Лоихи.

Физическая архитектура Loiii имитирует физическую организацию мозга. Хотя он выполнен с использованием обычных полупроводниковых материалов и будет изготовлен в будущем на узле процесса Intel 4, Loiii организован очень иначе, чем кремний, который мы все привыкли. Loiii имеет до миллиона нейронов: отдельных объектов в сети, каждый с 128 КБ памяти прилагается. Этот пул информации является аналогом чипов для синапсов. Это отражает состояние подключения нейрона в любой момент времени. Он контролируется соседними сердечниками X86, которые налагают внешние часы, чтобы исправить ритмы стрельбы нейронов. Супервизорные ядра также периодически заставляют нейроны проверить их память против остальной части группы или пересчитать прочность их соединений.

Эта структура соответствует иерархическим и параллельным аспектам организации мозга. Кроме того, Loiihi 2 пересмотрел свой подход к стрельбе. Loiii 1 выпустил ее нейроны в двоичном дворе: один или нулевой, ничто между ними. Loiii 2 кодирует свои шипы как целые числа, позволяя им нести метаданные. Это также означает, что они могут оказывать некоторое влияние на Neurons Downstream. Шипы с целочисленными ценностями могут эмулировать каталог различных электрохимических сигналов, который может отправить нейрон.

Разработчики могут взаимодействовать с Loihi и Lava с помощью Python. (Это начинает звучать как довольно тропическое приключение.) Система Loiihi в конечном итоге будет доступна для исследователей, но приложения для потребителей являются низким приоритетом.

Основные типы нейронных сетей

Нейронные сетки, со своими слоями и избыточностью, Excel при обработке очень параллельных задач. Они также помогают с задачами, которые требуют, чтобы пользователь проглотил огромное количество данных, чтобы определить узоры в нем - это часто называют «пить от Firehose». Чтобы получить преимущества больших данных, мы должны быть в состоянии обработать его на полезной скорости. Нейронные сети также Excel при манипулирующих данные с метаданными или многими размерами.

Есть много разных индивидуальных нейронных чистых проектов, но все они попадают в несколько разных семейств функции. Каждый алгоритм создан для различного типа проблемы, и все они занимаются тонко разными видами машинного обучения. Здесь мы обсудим четыре основных подтипа нейронных сетей: сверточные, рецидивирующие, генерирующие состязательные и шипы.

Крепкие нейронные сети: сверточные нейронные сети (CNNS) - это системы «подача», что означает, что поток информации ограничен одним направлением через сеть. Этот тип нейронной сети был упомянут в СМИ отчеты о AIS / Neural Nets, которые могут выполнять операции, но не могут объяснить, как они прибыли на их ответы. Это потому, что сверточные нейронные сети просто не создаются, чтобы показать свою работу. Они состоят из входного слоя, одного или нескольких скрытых слоев и выходного слоя или узла.

CNN часто используются для обработки изображений. Поскольку они кормит, математически, CNNS делает отличную работу над данными, которые поставляются в формате сетки. Они надежны при применении к двумерным массивам данных, таких как изображения и другие матрицы. Под капотом они применяют длинную математическую формулу, которая направляет алгоритм в том, как выполнять операции на одном уровне не только на двух номерах или условиях или уравнениях, но и целое тело данных, таких как выделение изображения.

Перемотка вперед также влечет за собой определенное количество мертвых расплате. Один из способов, которым этот показан сам по себе, как CNN может выполнять распознавание изображения, а затем использовать его новое понимание для производства искаженных, трипповых изображений, полученных из его тренировочного набора данных. В 2016 году MIT выпустила AI, которая может использовать это безудержное поведение в изображения «Spookify», создавая торрент кошмара топлива как раз вовремя для Хэллоуина.

Рециркулирующие нейронные сети: в отличие от подхода к подаче, повторяющиеся нейронные сети делают вещю, называемую размножением. Воздушная пропагация - это акт ретрансляции информации от более глубокого до более мелких уровней в нейронной сети. Этот тип алгоритма способен самосовершенствовать.

Рекуррентные нейронные сети выполняют обратное распространение, создавая соединения с другими нейронами в системе - в масштабе до и в том числе на любой нейрон, подключенный к любому другому нейрону. Это избыточность может производить очень точные результаты, но есть потолок уменьшающейся доходности. Он не в отличие от Super-выборки против псевдонима (SSAA). Поскольку алгоритм делает все больше и больше проходит через данные, это уже обработано, меньше и меньше он может сделать. Переход от 2xaa до 4xaa может производить четко заметные результаты, но сложно рассказать разницу между 8x и 16xaa без практического глаза.

Этот тип нейронной сети может быть обучен с использованием градиентного происхождения, метод анализа, который делает трехмерный ландшафт возможностей. Желаемые или нежелательные результаты могут быть представлены как «местность» в ландшафте, в местах, которые соответствуют их статистике. Как мы уже говорили, градиентный спуск не является лучшим методом обучения нейронной сети, но это мощный инструмент. Рекуррентные нейронные сети могут дать градиентное снижение, поддержав некоторую память о том, каким был изменяющийся ландшафт.

Широкие нервные сети: как мы видели выше, нейроморфный дизайн поставляется как на физических, так и в цифровых форматах. Вместо потока двоичных данных постоянно работает через один процессор, шипы нейронные сети могут быть программы, аппаратным обеспечением или оба. Они изготовлены из децентрализованных ядер, физических или логических, которые огонь в каденсиливе, называемом «поездом Spike», чтобы передать их сигнал. Эти массивы ядер объединены общей сетевой структурой, и каждый нейрон является узлом в этой сети.

Попытки смоделировать то, как нейроны управляют своими многочисленными каналами ввода-вывода, научили нас, что на многих различных каналах кодируется информация. Есть данные, связанные с тем, стреляют ли нейрон, а также в последовательности шипов. Это также имеет значение, какие из сетевых коллег были стрельбы одновременно.

Один важный инструмент в нейроморфных вычислениях - это модель «Leaky Integrate-And-Fire». Связь между нейронами моделируется набором дифференциальных уравнений, которые описывают различные ввод / вывод каждого нейрона. (Дифференциальные уравнения являются отличными инструментами для сравнения скорости. В некоторых контекстах вы можете использовать DiffeQ для моделирования произвольного n-мерного набора компараторов.)

Каждый нейрон в всплывающей сети имеет вес. Вес представляет собой среднее совокупность недавней активности нейрона. Больше активации поднимите значение выше. Но вес «утечка» в том смысле иметь отверстие в ведре. С течением времени есть функция распада, которая медленно уменьшает вес каждого сетевого веса нейрона. Это объясняет идею о том, что биологически не каждый нейрон активна во все времена. Вы можете противопоставить его против постоянно насыщенного венка соединений в рецидивирующей нейронной сети.

Шировые сети не столь хороши в градиентном спуске, ни проблем оптимизации такого рода. Однако они могут быть однозначно подходят для моделирования биологических функций. По мере того, как Spiking Nets становятся более сложными, они могут стать способными кодировать больше информации в серии Spikes. Это позволит гораздо более близким вычислительным проходом по разнообразным функциям нервной системы. Мы уже смоделировали нервные системы C. Elegans Colldworms и фруктовых мух дрозофилии, и исследователи пытаются моделировать колонку коры человека в режиме реального времени.

Другим возможным направлением для шиповниковых исследований нейронного сетевого сетевого типа является на дополнительных уровнях абстракции. Исследователи работают над созданием всплеска, в которой каждый отдельный нейрон сама по себе состоит из нейронной сети.

Генеративные состязательные нейронные сети (Gans): один тип нейронной сети с ростом популярности является генеративная состязательная нейронная сеть или GAN. Ганс - еще одна эволюция искусственного интеллекта, часто используемая для изменения или создания изображений. Часть «состязания» означает, что эти нейронные сети построены для того, чтобы конкурировать с собой.

Так же, как у Цербера были три головы, в рамках ГАна часто есть два отдельных нейронных сетка со своими собственными намерениями, одна генеративная и одна дискриминационная. Генеративная модель вызывает результат, часто изображение. Тогда генеративная сторона пытается «обмануть» дискриминационную модель, чтобы увидеть, насколько близко его можно добраться до желаемого выхода. Если дискриминационная сторона не одурана, результат отбрасывается. Результаты этого судебного разбирательства, как успех генеративной стороны, так и содержания, сделанного его, подаются; Иногда обучение контролируется, а иногда нет. Но в любом случае, после каждого раунда суда Ган возвращается на доску черновиков и снова пытается. Вот как пару проиграть к успеху.

Ганс способен производить уникальные фотореалистичные образы людей, которые не существуют в реальном мире. Для этого они смотрят через многие фотографии настоящих людей, чтобы собрать данные о том, как мы отличаемся друг от друга, и о том, как мы напоминаем друг друга. По сути, это фенотипирование грубыми силами. Затем, как только GAN достаточно образован, его генеративная сторона может начать пытаться произвести свою первоначальную работу. Одним из примеров является стиль NVIDIA, который может производить изображения поражения, обманчивой реализма. Существует даже производный проект, который задает вызов зрителям, чтобы определить, является ли данную стильганскую картину человека реальной или поддельной.

Результаты труда GAN могут быть настолько реалистичными, по сути, что в 2019 году штат Калифорния (дом как 2257 форм и Голливуда) учредил закон, запрещающий использование технологий, как Gans, чтобы создать порнографию Deebfake человека без их согласие. Государство также запрещено распределение манипулированного видео политических кандидатов в течение двух месяцев выборов. Дарпа пытается быть в курсе этой гонки A / V A / V, устанавливая целое разделение, чтобы изучить как гесам, так и способы победить их.

Хотя это все звучит очень стрессовые, есть используемые для Gans, которые не включают в себя соскоб Интернет для фотографий в общедоступных фотографиях. Одно приложение является физикой частиц; Физики требуют изысканной уверенности в их измерениях, прежде чем они готовы сказать, что нашли новую частицу или объяснили явление.

Другое место Gans Excel - это теория игр. Представленные со списком правил и приоритетов, Gans могут оценить вероятные выборы участников, и используют эту вероятность распространения для прогнозирования эндамера. Этот тип нейронной сети также находится в исследовании для использования улучшения астрономических изображений и прогнозирование гравитационного линса.

Лето 2021 года увидели высвобождение CODEXAI, генеративную нейронную сетку, способную улучшить свое собственное программное обеспечение. Модель может перевести естественный язык в код. Он также может генерировать фрагменты интеллекблемного кода после кормления всех GitHub.

В то время как Codexai можно считать полностью недоступной нейронной сетью на собственных достоинствах, она также выглядит так, будто она может быть легко быть частью гораздо большей иерархической системы. Поведение Codexai напоминает первые прерывистые искры одинокого нейрона, поскольку он устанавливает свои первые синапсы. Это также показывает ограничения технологии. Нейронные сети могут научиться исправлять свои предположения, но досягаемость AI все еще превышает его понимание. Интеграция нескольких разнообразных моделей является путь будущего.

Куда падают нейронные сети?

Нейронные сети великолепны при выполнении конкретных и хорошо ограниченных запросов, но они могут быть переназначей. Большая сила компьютеров - это скорость, в которой они могут выполнять повторяющиеся операции. Эти быстрые итерации также позволяют переоценить нервную сеть. Когда это произойдет, его мертвое расплата идет полностью насильно. Обученный AI AI может производить некоторые замечательно странные изображения, что делает его не очень полезным для прогнозируемых целей, таких как прогнозирование погоды.

В конечном счете, однако, эти слабые стороны ветвей являются незначительными проблемами по сравнению с проблемой роста. Чтобы стать более мощной нейронной сетью должна быть больше, и в нем лежит руб. Нейронные сети не могут масштабироваться бесконечно. Их эффективность масштабирования на самом деле хуже, чем обычный обработчик данных, из-за самого вещания, который делает нейронные сеть настолько способны. Центральная концепция слоистой нейронной сети, его слоистая глубина и избыточность требует экспоненциально увеличения количества власти. До сих пор мы использовали грубую силу для достижения наших целей, которые работает - до точки.

Эта проблема с масштабированием мощности, почему Intel использует низкое энергопотребление Loiii в качестве основной точки продажи. В конце концов, комбинированные проблемы энергопотребления и термического рассеяния ставут жесткий предел нашей способности просто связать больше этих чипов, чтобы сделать больше и более сложный AIS.

Последние мысли

Разница между нейронной сетью и искусственным интеллектом в значительной степени является вопрос мнения. Одна школа мышления считает нейронной сетью, чтобы стать искусственным интеллектом в себе. Другие считают искусственный интеллект, который будет выполнен из подчиненных нейронных сетей. Единственное отличие - это уровень абстракции, при котором динамик выбирает, чтобы сделать различие.

Одна вещь, на которую все согласны, состоит в том, что нейронные сети не могут делать то, что они делают без данных. Большое количество данных. В качестве краевого вычисления и науки о данных снимаются, целая новая сфера информации открывается для нашего анализа. Существует ошеломляющее количество необработанных данных, производимых каждый день. Это зависит от нас, чтобы найти творческие и умные способы его использования.