Текст книги "Воспитание Нейросетей"
Автор книги: Вадим Осмоловский
сообщить о нарушении
Текущая страница: 1 (всего у книги 4 страниц)
Вадим Осмоловский
Воспитание Нейросетей
Введение
Благодарности
Следует начать с благодарностей всем тем, кто помогал, корректировал и давал дельные советы. Огромное спасибо авторам бесчисленных книг и научных работ, на основании которых удалось прийти к порой удивительным выводам. Без этого огромного массива информации, где за каждой буквой годы человеческих жизней, проведенных в исследованиях, подготовке к публикациям, да и просто размышлениях, не стоило бы даже и мечтать о написании этих строк.
Краткость
Основной посыл, донести общее представление, не углубляясь в детали. Темы очень сложные и многогранные. Рассматривая глубоко каждый аспект, можно растянуть изложение на десять лет. Если будет поступать обратная связь о необходимости уточнений и исправлений, то в следующих публикациях эти желания обязательно будут учтены.
Развитие
Развитие потенциала, данного нам природой, это ли не интереснейшее занятие для каждого из нас? Кто такой человек, и на что он способен? Где границы возможностей? Приоритет этих вопросов возрастает с появлением детей. Нормальные родители хотят, чтоб их дети получили полноценное развитие и не упустили данный им шанс. И если судить по научным источникам, возможности, которые несут гены Homo Sapiens, если не безграничны, то существенно шире, чем то, на что настраивает нас современная культура и общество. Однако, перед тем, как полноценно реализовать генетические возможности, требуется провести тщательную и кропотливую работу. Взяв во внимание научные данные, следует выработать алгоритм, который позволит преобразовать ежедневную рутину, которая в свою очередь будет способствовать расширению границ человеческих возможностей. А читателям останется лишь применить выжимку и использовать как руководство к действию. Ведь не обязательно постоянно переизобретать велосипед, если можно купить готовый. Этот, сугубо инженерный подход, когда находишь готовое решение и нужно только лишь немного его подправить под себя, позволяет достичь положительных результатов, не тратя жизнь на эксперименты.
Планирование
Огромное количество трудностей при воспитании детей часто ставит в тупик. И наша задача – подготовиться к проблемам до их появления. Когда сложные времена наступят, то мы сможем во всеоружии и полной боеготовности справиться. Разобравшись с такими сложными феноменами, как токсичность, половое воспитание, насилие, зависимость, мы будем в состоянии планировать стратегии воспитания детей и себя самих. Зная, из из чего слеплены эмоции и привычки, их гораздо проще регулировать, подчиняя здравому смыслу и воле, тем самым предотвращая ненужные хлопоты. Для того, чтоб решить проблему в начале нужно ее разложить на составные части и вербализировать. А хорошая формулировка задачи – это уже половина решения.
Вторым немаловажным доводом является и то, что лучше уж плохой план, чем вообще никакого. Гораздо удобнее сформировать стратегию с самого начала и ей следовать, чем решать проблемы по мере их поступления в условиях ограничения времени и ресурсов. В данном случае как и с болезнью, гораздо проще заниматься профилактикой, чем лечить хронические формы.
Могу лишь выразить надежду, что читатель найдет информацию полезной и поможет взглянуть на воспитание и развитие под несколько иным углом. Приятного чтения.
Нейросети
Если задать вопрос, что произвело наибольший эффект в течение последних десяти лет, очевидным будет ответ: “Искусственный Интеллект и Нейросети”. Огромное количество исследовательского внимания приковано к этой области. И не удивительно, оказывается, многие задачи, которые раньше мог выполнять только человек, оказались под силу и компьютеру. Удивительная штука, бездушная жестянка взяла на себя функции чуть ли не творчества.
Итак, составные части процесса получения ответов от Искусственного интеллекта приблизительно те же, что и у человека. Немудрено, ведь прототипом искусственного мозга был настоящий.
●Далее под сетью имеется ввиду Искусственная Нейро Сеть
Работа нейросети
Процесс подготовки сети к использованию подразумевает следующие стадии:
1. Подготовка данных. Данные, та информация, которая пройдет через сеть и оставит на ней неизгладимый отпечаток. Все так как у человека. Определенная информация оставляет впечатления на всю свою жизнь, и готовит к будущим победам.
2. Конструирование сети. Нейросеть должна иметь определенную структуру. У нее должны быть возможности получить информацию, обработать и вернуть результат. Фактически сеть состоит из трех основных элементов: принимающий слой нейронов, средние слои, и финальный слой, где генерируется ответ.
Проводя параллели с человеком, можно указать на следующие соответствия. Слой ввода – это сенсоры, глаза, уши, нос и так далее. Эти органы чувство снабжены нервными клетками, которые собирают информацию из окружающей среды. По нервным волокнам информационный поток стремится в головной мозг, где происходит обработка полученных знаний. Нейроны отвечающие за решения, принятые в результате увиденного или услышанного и воплощенные в мышечную деятельность в виде, например, бега, произнесенных слов, или любой другой активности, это последний слой, дающий результат. Искусственная нейросеть представляет собой компьютерную программу, написанную человеком. А нейросеть самого человека – продукт эволюционного отбора, закрепленного в генах, как следует удобренный культурой и воспитанием.
1. Настройки сети. Перед тем как сеть увидит данные, она должна быть настроена. Во-первых, там есть много ручек, которые можно подкрутить. Во-вторых, есть возможность взять предварительно обученную модель для того, чтоб сократить время тренировки. Если сравнивать с человеком, то необходимо учить математике с нуля, и только потом прийти к линейной алгебре. Ведь без фундамента невозможно ожидать усвоению сложного материала. Для компьютера же можно взять предварительно обученную школьной математике модель и сразу приступить к обучению линейке, минуя первый шаг.
2. Модель, место, где сохраняется результат увиденного. Долговременная память, если хотите. Так сказать, слепок впечатлений и знания, для последующего использования.
3. Тренировка модели. Фактически это процесс предоставления информации сети. Модель в таком случае учится сама находить признаки, по которым она понимает почему что-то то, а не это. К примеру если ребенку показать картинку с котом первый раз и спросить что это такое, то он ответит что не знает. Однако, если мы повторим эту процедуру большое количество раз, то ребенок будет с определенной долей вероятности правильно указывать на кота или собаку.
Чем больше картинок увидит ребенок, тем точнее будет определение. Причем, через некоторое время можно будет показать для сравнения не всего кота, а только его глаз и глаз собаки, задав вопрос: где чей?
Если обобщить весь процесс развития нейросети человека, то происходит следующее. Ребенок, рождаясь, погружается в информационные потоки. Сенсоры(глаза, уши, нос и так далее) передают всю гамму стимулов внешнего мира и пластичный мозг, готовый и сконструированный для таких условий, наполняется полезными(или не совсем) данными. Модель ребенка обучается различать голоса, лица, мимику. Вскоре, из шума ребенок учится выделять признаки отдельных знакомых звуков, окрашенных эмоционально. Из звуков выделяются слова, из слов предложения и так далее. Модель ребенка учится адекватно реагировать на сигналы реальности и с течением времени показывает чудеса эрудиции и мастерства.
С точки зрения физиологии происходят следующие процессы:
1. Сигналы новой информации, поступая через сенсоры, стимулируют выработку меж синаптических нейромедиаторов.
2. Нейромедиаторы попадают на рецепторы нейронов, которые запускают активацию генов, ответственных за нейрогенез.
3. Происходит формирование новых синапсов между отростками нейронов. Уровень сложности (а значит и способностей) сети зависит именно от количества нейронов с синапсами. Во взрослом мозгу около 200 млрд нейронов, причем от каждого могут отходить десятки тысяч отростков. Т.е в мозгу 1.25*1017 транзисторов, тогда как на всей нашей планете в во всех существующих компьютерах и смартфонах их 1*1017
1. Новые нейроны объединяются в нейро группы – совокупность клеток, отвечающая за определенную функцию. Например, когда ребенок учит букву А, это значит в голове появляется один или несколько нейронов, которые реагируют на демонстрацию буква А.
2. Запоминание важной информации. Это происходит за счет создания молекул памяти в нейронах и новых соединений между нейронами.
3. Забывание ненужной информации. Да-да, забывание – это тоже труд.
Важные особенности, на которые следует обратить внимание:
Первое и, наверное, самое важное, это то, что мозг развивается только в том случае, если он испытывает когнитивную нагрузку. Только при решении задач мы учимся с ними справляться. Наивно полагать, что способности придут сами, или того хуже, что они заложены лишь по происхождению. Безусловно, генетический потенциал играет ключевую роль, но без тренировки
Второе, мозг не живет своей отдельной жизнью в стороне от всего остального организма. Мышцы оказывают огромное влияние на развитие мозга. Недаром древние греки говорили: “Хочешь быть красивым – бегай, хочешь быть здоровым – бегай, хочешь быть умным – бегай.”
Отсутствие тренировки губительно и приводит к атрофии мыслительных способностей. Фактически рост и развитие мозга напрямую зависит от информации в него попавшей. И если стимулы не поступали, то соответственно нейроны и их отростки не росли. Ну а если думать нечем, то и чудес не бывает, из ничего ничего не появляется.
Что может пойти не так?
На самом деле современный мир ставит нас в крайне неудобное и уязвимое положение. Во-первых, это общая парадигма преследования комфорта. Современные люди перестали ходить ногами и думать головой, прекратили на полную использовать свой терморегуляционный потенциал. Только представьте, что за жизнь была у древних людей, если ископаемые останки охотников собирателей говорят нам о том, что с переходом к сельскому хозяйству люди стали ниже ростом, у них появилось большое количество маркеров стресса и болезней. Но главная трагедия современного человека – существенно сократился объем мозга. По всей видимости, наши предки-охотники вели гораздо более интересную и насыщенную жизнь, которая заставляла использовать ум на всю катушку. Иначе не было смысла содержать такой дорогой орган.
Интересным является тот факт, что ни у неандертальцев, ни у первых кроманьонцев нет следов обуви. По всей видимости, они ходили босиком, а в ледниковые периоды зимы были не в пример современным. Следует учесть, что 30 тыс. лет для эволюции – не так уж и много для таких признаков. Т.е. даже если мы сейчас не ходим босиком зимой, это совершенно не значит, что у нас не заложен генетический потенциал так делать. И это может послужить толчком для развития, в том числе и интеллекта. Ведь если холодновато стоять, нужно больше ходить и бегать, то кто знает, какой эффект на ум окажет такое воздействие. Что ясно наверняка, так это то, что как только мы стали искать комфорт во всем, наши организмы стали объективно хуже функционировать.
Когнитивный шум
Количество данных в наш “информационный” век ошеломляет. Недостаток информации сложно себе вообразить. Однако не все так радужно. В головокружительном потоке данных очень легко потеряться. Да и не вся информация одинаково полезна. Однако, прежде чем рассмотреть вопрос вреда или пользы, нужно немного углубиться в физиологию нервной системы. Понимание базового функционала поможет ярче себе представлять все плюсы и минусы избытка знаний.
Если очень сильно упростить, то передача импульсов зависит от энергии, которую нужно потратить, и от количества веществ, которые передают импульс через синапс. Во-первых, при получении входящего сигнала нужно генерировать электрический импульс, который проведет информацию нейронам-соседям по отросткам. Помимо энергии для начального импульса, определенное количество энергии нужно и для того, чтоб передать сигнал от одного нейрона к другому через синапс. Для того чтоб вытолкнуть пузырьки нейромедиатора в синаптическую щель, а другому нейрону их втянуть себе нутрь тоже нужно тратить энергию.
Как вы понимаете, и энергия химических связей, и пузырьки с нейромедиатором – это величины не бесконечные, и при нагрузке расходуются. Для того, чтоб восстановить работоспособность, нужны время и ресурсы. И все бы хорошо, если бы ценные резервы расходовались на благое дело. Впрочем, так происходит далеко не всегда. Довольно частое событие, когда наше внимание сосредоточено на вещах, абсолютно не влияющих на наше развитие и даже вредят ему. Ведь для нейрона нет принципиальной разницы, какой сигнал передавать, будь то картинка из учебника или игры из мобильного телефона. Топливо горит в обоих случаях. Усугубляется ситуация и тем, что современные технологии достигли невиданных высот и поглощают наше внимание с огромной силой. Внимание – это сокровище, за которым идет охота. Причем, пожирая внимание, мобильное приложение, как правило, не оставляет ничего полезного взамен. Тем временем, из-за яркости стимула возникает реакция положительного подкрепления и формируется зависимость, человек сжигает свои ресурсы впустую снова и снова. Обратите внимание: полезная информация, зачастую, требует повышенной концентрации и усилий. Такие действия не особенно приятны, из-за того, что мало яркости стимула и сиюминутного наслаждения. Значительно проще бросить рутинный изнуряющий труд и вернуться в уютную яркую картинку очередной игры или листалки коротких бессмысленных видео. В главе об энтузиазме мы подробнее остановимся на причинах и адаптациях, которые развили в нас такую переходящую в патологическую зависимость тягу, к новому и интересному. Хорошие новости заключаются в том, что способность к концентрации – это тренируемый навык. Даже если вам кажется, что ваш ребенок ни за что не способен быть внимательным, это не так. Вероятно та информация, которая нашла бы отклик и заставила его сконцентрироваться, не попала в поле зрения. Правда, чем дольше тренировка концентрации внимания откладывается в долгий ящик, тем тяжелее будет наверстать упущенное. Ведь пластичность мозга не бесконечный ресурс. Но при должной мотивации даже взрослые люди способны на впечатляющие результаты.
Плохие данные – плохие результаты
Еще один парадоксальный вывод, который становится очевидным при работе с искусственными нейросетями. Приблизительно 80% рабочего времени тратится на подготовку данных. Для того, чтоб добиться более-менее адекватного результата от модели, нужно как следует покорпеть над качеством и структурой информации, которая будет служить субстратом для обучения. Любопытно и то, что, порой, лишь маленькие отклонения ведут к очень плохим результатам. Именно та легкость, с которой можно все испортить, приводит к мысли, что абсолютно идентичная ситуация и с мозгом человека, и с информацией в него попадающей. Не нужно лениться лишний раз подумать что, в какой последовательности, и кому преподавать. Естественно, что нужно брать во внимание индивидуальные психофизиологические особенности, и текущий уровень знаний. Одним информацию нужно подавать маленькими кусочками, в виду темперамента и быстрой утомляемости нервной системы, другим, более усидчивым и покладистым – куски побольше. Но для успешного развития структура данных должна подходить к способностям как ключ к замку. В противном случае работа будет лишь бесполезной тратой времени и сил.
Большое количество повторений
Для того, чтоб добиться устойчивого положительного результата, одного единственного стимула недостаточно. Да и пары тройки тоже вряд ли хватит. Только многократные повторения приводят к достоверно адекватному ответу сети. Это актуально как для искусственной сети, так и для человека.
Все навыки, которые человек приобретает в течение жизни подчиняются тем же правилам. И не имеет значения, говорим ли мы о чтении, математике или фигурном катании: везде процесс идентичен. Например, сев за руль автомобиля лишь однажды, наивно полагать, что этого хватит для полноценного вождения. Для уверенного управления машиной нужны часы и часы практики, пока мозг как следует не уяснит связи между стимулами, научится концентрироваться на важных и игнорировать второстепенные. Ведь последнее, что нужно в критической ситуации – это длительные размышления над тем, где педаль тормоза, а где сцепления. Перед тем, как водитель будет самостоятельно, без помощи инструктора, управлять автомобилем, навыки должны быть отточены до автоматизма. И ничем, кроме как повторением не добиться результата. Естественно, многое зависит от типа нервной системы, обучаемости или предварительного знакомства с азами вождения. Но в любом случае многократные итерации формируют анатомические изменения в мозгу, которые и позволяют пользоваться навыками вождения.
Хорошие новости заключаются в том, что можно маленькими шажками идти к результату не утруждая себя изнурительным трудом. Ведь все стимулы без исключения оставляют свой отпечаток на нейро-субстрате. Основное правило – постоянство. Эффект обязательно появится. Есть ряд исследований, подтверждающий, что, например, навык игры на фортепьяно прогрессирует гораздо быстрее, если учащийся играет по пятнадцать минут в день, пять дней в неделю, по сравнению с двумя часовыми занятиями. Частые кратковременные занятия получаются и проще для психики и занимают меньше времени при большем эффекте. Бесспорно, если обучение приносит удовольствие, то в таком состоянии нужно находиться чем больше, тем лучше. Ведь это самое продуктивное настроение с точки зрения и работоспособности, и плодотворности обучения. Если вам повезло попасть в так называемый поток, нужно в нем оставаться. Когда мозг захватывается увлекательной идеей, время летит незаметно и послевкусие от труда сугубо положительное.
Микродвижения кисти
Человека человеком отчасти сделал труд. И в первую очередь труд кистью руки. Необходимость захватывать и использовать орудия отодвинула большой палец руки, для успешной манипуляции различными мелкими предметами, послужила мощным толчком к развитию и увеличению нейро-субстрата, ответственного за движения руки. Любопытно и то, что участки в теменных долях больших полушарий, отвечающие за иннервацию и мелкую моторику руки, находятся рядом с центром Брока, ответственным за речь. Известно, что развивая кисть руки мы даем сильный стимул и развитию речи. Более того, если обратить внимание на эндокран(слепок внутри черепа) неандертальцев и Homo Sapiens, то мы обнаружим, что у наших непосредственных предков объем этих отделов более выражен. Косвенные признаки о разнице в строении речевого аппарата лишь подтверждают это предположение. В тоже время, это отражается и на следах культуры, таких как погребения, инструменты и оружие. Те останки, которые попали в руки исследователям и позволяют делать выводы, говорят, что и анатомически речевой аппарат у нас был более развит. К сожалению в современном мире комфорта на сцену выходят клавиатуры и тачскрины, которые успешно уничтожают потенциал тысячелетних адаптаций. И если еще десять лет назад в школе нужно было много писать от руки, то, к сожалению, сейчас такая необходимость уходит в прошлое. Осложняется еще все и тем, что тачскрин и джойстики стали массовым развлечением. Дети позабыли что такое лепить, шить, клеить. А ведь без этих, на первый взгляд, бесполезных занятий качество развития мозга может значительно пострадать.
Обездвиженность
Тело человека, это не изолированный объект в вакууме. Это встроенный в экосистему механизм, который очень активно с ней взаимодействует. По крайней мере это подразумевает конструкция. Однако, современная парадигма взглядов на место человека в мире переворачивает все с ног на голову. Странно, но в обществе считается правильным человека обездвижить и поместить в стерильные условия. При том, и это просто вне разумного объяснения, заявлять, что такое положение дел – наивысшее из всех возможных благ, за которое следует отдать все свое жизненное время сначала на учебе, а затем и на работе. А результат мы с вами знаем:
Первое место в мире по смертности занимают сердечно-сосудистые заболевания. Сердечно сосудистые заболевания – это, безусловно, трагедия, но вместе с кровеносной системой страдает и мозг. Связь заключается в том, что используя мышцы, человек кормит нервную систему. Ведь, нагружая тело физическими упражнениями, мы добиваемся следующих результатов:
1. Сердце повышает объем прокачиваемой крови за счет наращивания объема сердечной мышцы и растягивания предсердий и желудочков.
2. Ноги, будучи загруженными, снимают нагрузку с сердца и тем самым помогают его работе.
3. Увеличивается просвет сосудов, для прокачки большего количества крови за единицу времени.
4. Увеличивается эластичность стенок сосудов, что предотвращает проблемы с повышенным давлением в более зрелом возрасте.
И, как результат, значительно улучшается питание мозга. А больше еды – больше клеток. И это все без упоминания, что движения добавляют необходимости роста нервного субстрата, для научения сложным двигательным комплексам. Занимательным является тот факт, что интенсивная мышечная активность стимулирует выработку гликогена, который в свою очередь является непосредственным питанием для мозга.
