20 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Вместо предисловия.

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

метода обучения "обратным распространением ошибки", этого поистине "золотого молотка" всего "машинного обучения" глубоких нейросетей. Т.е. общее представление как работает этот метод у меня естественно есть, но вот как увязать "особенности" этого метода, со всеми теми "непонятками", которые постоянно возникали, при попытках какого-то более глубокого понимания работы различных архитектур нейросетей как-то не возникало. Так что, желание разобраться в этой теме возникло достаточно давно,

Координаты: 1413 год; 0.1 кубика адреналина. Индекс удобочитаемости Флеша — 55, для 10-х, 12-х классов. Диалогов: 1%.

43 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 "Повторение мать учения".

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

Однако существуют и другие модели искусственных НС, в которых возможно использовать петли обратной связи. Эти модели называются рекуррентными нейронными сетями (РНС). Идея этих сетей в том, что их нейроны активируются на ограниченные промежутки времени. Эта активация может стимулировать другие нейтроны, которые могут активироваться чуть позже, также на ограниченное время. Это приводит к активации следующих нейронов, и со временем мы получаем каскад активированных нейронов. Петли в таких моделях не представляют проблем,

Координаты: 2003 год; 0.15 кубика адреналина. Индекс удобочитаемости Флеша — 55, для 10-х, 12-х классов. Диалогов: 2%.

46 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 3

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

И можно ли, учитывая их, улучшить результат? Переформулируем эти вопросы более жёстко: допустим, что через несколько десятилетий НС превратятся в искусственный интеллект (ИИ). Поймём ли мы, как этот ИИ работает? Возможно, сети останутся непонятными для нас, с их весами и смещениями, поскольку они назначаются автоматически. В ранние годы исследований ИИ люди надеялись, что попытки создания ИИ также помогут нам понять принципы, лежащие в основе интеллекта, и, может быть, даже работы человеческого мозга.

Координаты: 1783 год; 0.1 кубика адреналина. Индекс удобочитаемости Флеша — 61, для 8-х и 9-х классов. Диалогов: 2%.

48 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 "Звонок другу".

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

Очень трудный был материал, несмотря на то, что он как раз наиболее понятный из множества аналогичных по этой теме. И труден он даже не потому, что много математики, как раз кое в чем этой "чистой математики" мне чуть-чуть не хватило. Сложен в том, что упомянуто много деталей "обратного распространения", обычно не удостаиваемых внимания, но которые нужно как-то уложить в достаточно полную и непротиворечивую систему. Что-то в голове явно оформилось, но не скажу, что до конца, и есть над чем работать при проработке следующих глав,

Координаты: 1890 год; 0.21 кубика адреналина. Индекс удобочитаемости Флеша — 70, для 13 лет (7-й класс). Диалогов: 1%.

51 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 5

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

когда начальный вес был 0,6 а смещение - 0,9. В оригинале статьи есть интерактивная форма, в которой можно нажать кнопку и посмотреть, что происходит при замене квадратичной стоимости на перекрёстную энтропию. Ничего удивительного, нейрон в данном случае обучается прекрасно, как и ранее. Теперь посмотрим на случай, в котором раньше нейрон застревал, с весом и смещением, начинающимися с величины 2,0. ...... Успех! На этот раз нейрон обучился быстро, как мы и хотели. Если наблюдать пристально, можно увидеть,

Координаты: 1959 год; 0.19 кубика адреналина. Индекс удобочитаемости Флеша — 61, для 8-х и 9-х классов. Диалогов: 1%.

54 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 6

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

//// А "магия обобщения" - это очень вредный миф, //// хотя и такой приятный для слуха. //// Который слишком часто заканчивается не очень хорошо, //// если слепо на него полагаться. и значительно уменьшает эффекты переобучения. //// И опять же не "переобучение", а, как бы лучше подобрать термин, //// а эффект "крупнозернистой структуры", //// соответствующий "зернистости" обучающих данных. //// Регуляризация в данном случае выступает как процесс "дробления" //// более крупных "зерен", на более "мелкие".

Координаты: 1807 год; 0.21 кубика адреналина. Индекс удобочитаемости Флеша — 51, для 10-х, 12-х классов. Диалогов: 1%.

56 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 7

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

По этой причине обычно мы не включаем смещения в регуляризацию. //// Надо будет этот вопрос проработать с Copilot. //// Глядишь, что-то интересное удастся выцепить, //// какой-то не очень обоснованный вывод в этом параграфе. Иные техники регуляризации Существует множество техник регуляризации, кроме L2. На самом деле, было разработано уже столько техник, что я бы при всём желании не смог кратко описать их все. В этом разделе я кратенько опишу три других подхода к уменьшению переобучения:

Координаты: 1968 год; 0.12 кубика адреналина. Индекс удобочитаемости Флеша — 42, для студентов. Диалогов: 2%.

59 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 8

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

Сначала мы оцениваем пороговое значение ?, при котором стоимость обучающих данных сразу начинает уменьшаться, а не колеблется и не увеличивается. Эта оценка не обязательно должна быть точной. Оценить порядок можно, начав с ?=0,01. Если стоимость уменьшается в первые несколько эпох, то стоит последовательно пробовать ?=0,1, затем 1,0, и так далее, пока не найдётся значение, при котором стоимость колеблется или увеличивается в первые эпохи. И наоборот, если стоимость колеблется

Координаты: 1917 год; 0.2 кубика адреналина. Индекс удобочитаемости Флеша — 38, для бакалавров. Диалогов: 2%.

62 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 9

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

чтобы разработать реально мощную теорию обучения НС, основанную на доказательствах. Значит ли это, что стоит отвергать эвристические объяснения, как нестрогие и не имеющие достаточно доказательств? Нет! Нам нужна такая эвристика, которая будет вдохновлять наше мышление. Это похоже на эпоху великих географических открытий: ранние исследователи часто действовали (и совершали открытия) на основе верований, ошибавшихся серьёзнейшим образом. Позднее мы исправляли эти заблуждения, пополняя свои географические знания.

Координаты: 1946 год; 0.11 кубика адреналина. Индекс удобочитаемости Флеша — 49, для студентов. Диалогов: 1%.

64 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 10

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

И поймёте, как результат связан с глубокими НС. Чтобы следить за материалом этой главы, не обязательно читать предыдущие. Он структурирован в виде самостоятельного эссе. Если у вас есть самое базовое представление о НС, вы должны суметь понять объяснения. Но я буду иногда давать ссылки на предыдущие материалы, чтобы помочь заполнить пробелы в знаниях. Теоремы универсальности часто встречаются в информатике, так, что иногда мы даже забываем, насколько они потрясающие. Но стоит напоминать себе:

Координаты: 1836 год; 0.01 кубика адреналина. Индекс удобочитаемости Флеша — 53, для 10-х, 12-х классов. Диалогов: 2%.

48 k

2024-03-31
upd 2024-04-28

Читать главу
К книге Страница автора

 Металоция неведомого. Модуль Т. Тренинг | Глава 11

Писатель: Митасов Андрей Павлович

Входит в цикл: “Металоция неведомого”

Глава в томе: Металоция неведомого. Модуль Т. Тренинг

Случайный абзац

Если модель всё же используется, то её изготовление всегда происходит из какой-то другой модели или иногда тем самым автоматическим подбором параметров? napa3um 23 авг 2019 в 19:03 Ваши вопросы не являются контраргументами к моему тезису, вы и дальше можете жонглировать словами сколько угодно :). Уверен, что вы поняли мой исходный тезис, но пытаетесь <юридически> решить вопрос :). Kilorad 23 авг 2019 в 23:19 Ок, хорошо. По моим наблюдениям, feature engeneering и грамотный ручной выбор модели

Координаты: 1803 год; 0.15 кубика адреналина. Индекс удобочитаемости Флеша — 60, для 10-х, 12-х классов. Диалогов: 3%.