Технология экрана
Технология экрана Samsung показывает, что такой гибкий экран можно носить как часы.
Технология экрана Samsung показывает, что такой гибкий экран можно носить как часы.
Плодовый клоп, сидящий на кусте садовой малины, уверен, что малина существует для того, чтобы он её ел. Мысль о том, что этот куст кто-то посадил для себя, не приходит ему в голову, и глупо укорять клопа за эту ошибку. Хотя соглашаться с тем, что малину выращивают для клопов, ещё глупее.
Однако мы сами отчасти уподобляемся этому неразумному насекомому, когда говорим "цифровизация – это прежде всего удобно". Малина – это прежде всего вкусно, да. Но кому? Клопу? А с какой стати? Кто сказал, что именно клоп главный, а не вот это существо, например?
Или не его дедушка, посадивший малину? Или не тот, кто выпустил постановление, согласно которому дедушка получил право на шесть соток и выращивание малины... Но клопу это абсолютно неинтересно. Клоп считает всё это натягиванием совы на глобус.
Что ж, оставим сову в покое. Поговорим о прогрессе.
Останови́м он или неостановим – вопрос философский, а вот управлять прогрессом можно. Можно, например, притормозить заморозить исследования по искусственным углеводам, заменив их исследованиями в области генной модификации сельскохозяйственных культур. Или вот в 50-60-е годы прошлого века магистральным путём прогресса считалось освоение космоса. Космос тогда рассматривали как возможность экстенсивного развития технологической цивилизации: космос – это ещё больше ресурсов: ещё больше пространства для жизни и производства.
Почему космос был так важен для человечества в первые послевоенные десятилетия? Нет, не потому, что таков был побочный эффект прогресса – развития военных ракетных технологий. Дело было в другом.
Производство не может достичь определённого уровня и остановиться: производство либо расширяется, либо гибнет. Почему? Таковы законы придуманной людьми в XVII–XIX столетиях индустриальной экономики. Допустим вы решили заняться производством сковородок. Для этого нужно закупить сырьё, арендовать оборудование, нанять рабочих...
У вас на всё это денег нет. Они есть у кого-то, кто сам заниматься производством сковородок не хочет – ну вот не хочет и всё! Однако согласен дать денег вам – при условии, что вы долг вернёте, конечно. И вот это вот долг, именуемый кредитом либо инвестицией, будет заставлять вас всё время выпускать и продавать больше продукции, чем необходимо для окупаемости производства. Вы должны не только окупить производство, но и окупить долг. А для этого вам придётся выпустить больше продукции, чем вы планировали. А чтобы выпустить больше продукции, понадобится больше сырья, больше рабочих, больше оборудования и... да что же это такое, опять больше денег! Которых, напомним, у вас нет, но вы можете и их тоже взять у кого-то в долг. А чтобы вернуть и этот долг, вам понадобится в следующем производственном цикле выпустить и продать ещё больше сковородок, а для этого ещё больше закупить... нанять... и занять.
Вот почему производство должно всё время расти.
Но на Земле оно бесконечно расти не может, потому что Земля конечна, и население её, и ресурсы её конечны. Поэтому-то в 50-е годы и существовала большая (и наивная, как мы понимаем теперь) надежда на освоение космоса. Не у простых людей, разумеется. У «планировщиков».
Однако уже к началу семидесятых стало ясно, что ближний космос для колонизации не годится. А о дальнем мечтать пока рано, да и неизвестно, что там. И космический проект пришлось потихоньку сворачивать. Космос больше не надежда человечества, а так, что-то сбоку припёка, на обочине «магистрального пути прогресса». А «магистральный путь» – это «цифровая трансформация», сокращённо – «цифровизация».
Цифровизация чего?
Это очень интересный вопрос, но сперва закончим с прогрессом. Это, как мы предупреждали, вопрос философский, поэтому, если вы не любите философствований, прокрутите текст до следующей картинки.
"Прогресс" – это миропредставительная модель. То есть упрощённая схема, и даже не схема, а образ, с помощь которого мы "понимаем", как устроен мир. Но на самом деле не понимаем, а именно представляем – то есть воображаем. И это воображение (фантазия, миф) заменяет нам понимание.
Модели мира бывают двух типов: циклическая (всё движется по кругу, как солнышко по небу) и направленная (всё движется к некоей цели, к некоему результату, как стрела летит в цель). Микс этих двух типов – хитровыгнутая спиралевидная модель: вроде бы и по кругу, но "на каждом витке выше", а значит – всё-таки направлено, всё-таки к цели. Таким образом, "спиралевидная модель развития" тоже направленная.
А теперь интересное: циклическая модель предполагает, что мир вечен. А направленная модель предполагает, что он конечен. Ведь если у процесса есть цель – то есть и конец процесса. (Либо, если цель недостижима, она бессмысленна.)
Вы скажете, дудки: одной цели достигли – ставим перед собой другую, потом ещё другую и ещё другую, и так бесконечно? Но знаете ли, как в философии называется такая модель? "Дурацкая бесконечность".
Ладно, это мы уже вбок от вбока пошли, заканчиваем. Прогресс – модель эсхатологическая. То есть описывающая (невольно) конец мира. Его смерть.
Эта невольная эсхатология постоянно вырывается из подсознания сторонников направленной модели – то в виде концепции "конца истории" японо-американца Фукуямы (над ним у нас принято смеяться), то в виде советской концепции Коммунизма – Светлого будущего, наиболее выдающиймся представителем которой были не Хрущёв, не Суслов и не Маркс-Энгельс-Ленин, а Иван Ефремов, автор "Туманности Андромеды". Ну достигли светлого будущего, а дальше? Ради чего жить и трудиться, за что бороться? (Заметьте: для ответа на этот вопрос – "Что дальше?" – Ефремову тоже понадобился Космос...)
Вот, кстати, три иллюстрации к роману Ефремова. Сюжет один, но обратите внимание на "разночетния". Первая иллюстрация (слева) 1958 года: реалистичная, но слегка обобщённая, с налётом романтичной мечты. Вторая 1962 года: космос стал реалистичнее, добавилось деталей как в материальной среде, так и в характерах персонажей. "Космос реален". Третья – 1999 год, уже нарочитая условность, сказка, миф... (Зато важное значение приобретает бюст героини.) Тоже своего рода "три модели".
Так вот, теперь о цифровизации – цифровизация чего она. Если одним словом – то управления. "Цифровизация процессов управления процессами". (Не смейтесь, это правда так.) И начать это объяснение следует сначала – с кибернетики...
Вы, конечно, знаете, что каких-нибудь полвека назад именно так называли всё то, что мы сегодня в быту называем "цифровизацией", то есть – "всё связанное с компьютерами".
Автоматический пылесос под названием "Кибернетика" из "Незнайки в Солнечном городе"
Однако само слово "кибернетика" весьма древнее, и история его интересна и примечательна. Ещё в 1834 году физик Ампер в книге «Очерки по философии наук» описал науку под названием «кибернетика». И заимствовал он это слово аж у древнегреческого философа Платона.
По-гречески «кибернетикес» (κυβερνητικης) означает «искусство управления кораблём», но сам Платон использовал это слово в трактате «Республика» как образное описание управления людьми: «Как мудрый кормчий правит в море кораблём, так и мудрый правитель правит своим народом».
То есть кибернетика – это наука об управлении.
В 1948 вышла книга «Кибернетика, или управление и связь в животных и машинах» Норберта Винера – учёного, которого называют основоположником современной кибернетики. Он сделал важное открытие: существуют универсальные законы управления и использования информации, единые как для машин, так и для живых организмов.
Что изучает, чем занимается кибернетика? Её интересуют абсолютно любые системы, в которых присутствует управление. В математической функции значение одной переменной может управлять другой переменной? Да. Значит, кибернетику интересует математика. Кошка бежит туда, куда бежит мышка? То есть можно сказать, что «мышка управляет кошкой»? Обезьяну можно научить дёргать за верёвку, чтобы получить банан? Да. Значит, кибернетику интересует поведение животных.
А поведение человека? Интересует ли оно кибернетику, как вы думаете?
Зачем компьютеры изучают «цифровой след» человека – то есть запоминают, как он ведёт себя в интернете? Какие совершает покупки, какими сервисами пользуется, какими передвигается маршрутами, какую информацию читает, а какую пролистывает, не читая, какие мнения «лайкает», а какие «дизлайкает», а значит, каких придерживается убеждений? Эта информация собирается в огромные базы данных – для чего?
«Очерки по философии наук» Ампера (1843) и «Кибернетика» Винера (1948)
В своей книге «Кибернетика» Норберт Винер писал о том, что законы кибернетики могут применяться для изучения поведения людей, развития общества, взаимодействия социальных групп.
А это значит, что компьютер может не только прогнозировать, как поведёт себя человек, но и программировать его на то или иное поведение. Например – настойчиво предлагать ему определённую информацию, а другую информацию – скрывать. Чтобы одних возможностей лишать, а другие – навязывать.
Для чего это нужно? Для того, чтобы попытаться справиться с индустриально-финансовым кризисом, охватившим планету, – чтобы перейти от "рыночной" системы к "планово-распределительной" – как в СССР, да, но на новом технологическом уровне. От "общества потребления", потребности которого индустриальная цивилизация больше не может обслуживать, – к обществу распределения. К обществу жёсткого экономического и социального регламента.
Вроде бы цель благая, но тут возникает следующая загвоздка...
Один из главных законов науки об управлении – кибернетики называется «закон Винера–Шеннона–Эшби». Он гласит:
«Управляющая система должна иметь бо́льшее разнообразие, чем разнообразие управляемых систем».
В переводе на понятный язык: «Тот, кто управляет, должен знать и уметь больше, чем тот, кем управляют».
А теперь подумаем: что должно произойти, когда средний компьютер будет уметь выполнять разных действий больше, чем средний человек? И когда компьютерная система будет знать о поведении людей больше, чем люди знают о поведении этой системы?
Совершенно верно. Компьютеры начнут управлять людьми.
Конечно, можно сказать, что сегодня и светофоры управляют людьми (кстати, с помощью тех же компьютерных программ), и ничего страшного не происходит – наоборот, от этого только лучше…
Но одно дело, когда светофор командует, как нам ходить по улицам. И совсем другое – если он начнёт командовать, куда нам идти. Как жить. Для чего жить. Чего хотеть, а чего не хотеть… Чувствуете разницу?
Когда люди массово и с охотой отказываются от главных завоеваний эволюции, выделяющих их из животного мира, – от разума и свободы воли, – возникает вопрос: в обмен на что?
На этот вопрос мы предлагаем ответить вам. Как вы думаете?
Полистать журналы можно здесь
Подписаться с доставкой в почтовый ящик – на сайте Почты России
Купить – на Wldberries
Скачать несколько номеров бесплатно – здесь
Перевод видео осуществлен нейросетью Elevenlabs
Австралийский стартап Cortical Labs разрабатывает нечто удивительное: компьютерный чип, созданный с использованием живых клеток человеческого мозга. Этот проект, получивший название Dishbrain, представляет собой настоящую инновацию.
На кремниевой основе чипа растут живые нейроны человеческой коры головного мозга, выполняя функции проводников и связываясь между собой и с другими элементами системы. Это можно сравнить с миниатюрной версией мозга, которому уже удалось научиться играть в классическую видеоигру Pong. Хотя в игре он показал себя не идеально, скорость и эффективность его обучения превзошли традиционные цифровые методы ИИ. Такие гибридные чипы могут кардинально изменить не только развитие искусственного интеллекта, но и медицину, предоставляя новые возможности для тестирования лекарств и изучения заболеваний.
Cortical Labs утверждают, что их чипы способны расти, учиться и адаптироваться, подобно человеческому мозгу. Возможности, которые откроются перед нами благодаря этому изобретению, могут быть поистине революционными.
Если вам интересны новые технологии, полезные сервисы и новости будущего, добро пожаловать в ИИшница 🍳
Большой и наиболее подробный пост по вермитехнологии. Данная тема меня очень заинтересовала, так как мне кажется у этой идеи есть большой потенциал, удобрения, созданные червями можно использовать на своём огороде и экологично, более практично утилизировать органические отходы. У меня пока не хватает ресурсов организовать данную технологию, но с вашей поддержкой может я этим займусь и наглядно расскажу и покажу, как обустроить данную технологию на своей даче.
Вермитехнология – это инновационный подход к обработке органического материала с помощью червей-компостеров. Использование этого метода позволяет сократить количество отходов, получаемых при переработке пищевых остатков или садовых отходов, и получить ценное органическое удобрение – компост.
Для начала необходимо выбрать и пробрести червей. Наиболее часто используемым видом в вермитехнологии является калифорнийский червь. Эти черви быстро и эффективно перерабатывают органический материал, превращая его в питательное удобрение.
Калифорнийский червь
Рассмотрим поэтапно данный процесс.
Первый этап – создание оптимальной среды для червей. Для вермикомпостера всего потребуется четыре лотка — три с отверстиями, четвертый (нижний) для сбора образующейся жидкости, вермичая. В верхний ящик закладывают отходы. Во втором находится основная масса червей. В третьем скапливается готовый гумус. В четвертый стекает вермичай — вытяжка из компоста.
Второй этап – активное кормление червей. Красные черви питаются органическим материалом, таким как пищевые отходы (фрукты, овощи, кофейная гуща) или садовые отходы (трава, листья, ветки). Черви не проявляют избирательности в кормлении, но определенные виды продуктов или материалов могут повлиять на скорость разложения. Важно поддерживать оптимальные условия в среде, контролировать влажность и обеспечивать правильное соотношение органических веществ, чтобы обеспечить хорошую активность червей и разложение органического материала.
Третий этап – процесс разложения и превращение органического материала в червячный компост и вермичай. Черви перерабатывают органический материал, съедая его и пропуская через свой пищеварительный тракт. Это ускоряет процесс разложения и превращает органический материал – в темно-коричневый червячный компост – ценное удобрение, богатое питательными веществами и микроорганизмами. Червячный компост можно использовать для улучшения качества почвы и стимулирования роста растений.
Помимо червячного компоста, вермитехнология также позволяет получать червячный чай. Это жидкое удобрение, получаемое в результате сбора и фильтрации выделяемой червями жидкости. Червячный чай богат азотом, фосфором и калием, полезным для растений.
Вермитехнология имеет множество преимуществ. Она способствует уменьшению объема органических отходов, которые попадают на свалку или уходят в мусорные контейнеры. Она также помогает поддерживать качество почвы. Вермитехнология экологически безопасна.
Компания Brisk It представила новинку — умный гриль с искусственным интеллектом, который обещает довести приготовление еды до совершенства.
ИИ автоматически настраивает температуру для каждого ингредиента, позволяя готовить несколько блюд одновременно без риска их испортить.
Управление грилем осуществляется через специальное мобильное приложение, которое не только включает и выключает огонь, но и уведомляет вас о готовности блюда.
Цена умного гриля составляет 132 000 рублей, и это отличный выбор для празднования майских праздников.
Если вам интересны новые технологии, полезные сервисы и новости будущего, добро пожаловать в ИИшница 🍳 - пища для ума в мире высоких технологий
Вот это коллаборация года - Walmart и Microsoft выпустили многофункциональное устройство для жарки хлеба.
Шесть уровней готовности.
Съемный поддон для крошек.
Светодиодный индикатор обратного отсчета.
Кнопка разморозки.
Возможность нанести логотип Xbox на хлеб.
Тостер, который может поджаривать хлеб шестью степенями прожарки с нанесением логотипа Xbox стоит $39.99 (около 3700 рублей)
Вполне демократично, учитывая, что еще есть индикатор времени готовности и функция разморозки. Если вам интересны новые технологии, полезные сервисы и новости будущего, добро пожаловать в ИИшница 🍳 - пища для ума в мире высоких технологий
Помимо классного дизайна, буквы "Х" на хлебе, регуляции температуры, тостер просто крутой подарок для консольных геймеров и идейных фанатов Microsoft, которым хочется чего-то особенного и эксклюзивного. К сожалению, кроме как в США, а именно в Walmart, больше нигде не продается и никуда не доставляется.
Простите поклонники лучика, но не мог пройти мимо. Я не буду разбирать каждый абзац этой статьи и комментировать его, только в конце приведу цитаты и свои комментарии к ним. На мой взгляд статья очень размыто отвечает на главный вопрос, поставленный в заголовке: как работает нейросеть? Я не в курсе на какую возрастную аудиторию рассчитан материал, но с учетом того, что в статье приведена функция y = kx + b, полагаю, я могу использовать немного математики.
Авторы предлагают аналогию вроде такой: нейросеть - это набор нейронов-чисел, а учатся они, если им показать много примеров. Прежде чем переходить к нейронам, я расскажу как они учатся. Это может показаться странным, но просто принцип обучения что в нейросетях, что в простых моделях машинного обучения одинаков. Для примера рассмотрим как раз уже приведенную функцию y = kx + b. Перенося ее на реальный мир можно взять в качестве примера задачу расчета стоимости жилья в зависимости от площади квартиры. Тогда y - стоимость, x - площадь квартиры, а решаем мы задачу т.н. линейной регрессии (это для сильных духом, постараюсь обходиться без терминов). Далее слайды, которые рисовал сам, простите.
Нужно получить модель, которая по набору иксов (метраж квартиры) дает правдоподобную стоимость. Точки на графике - наши реально существующие данные. Прямая - наша функция. Обучив модель, мы можем подать ей на вход один x и получить ожидаемый y.
В случае применения машинного обучения мы должны просто настроить неизвестные параметры нашей функции (k и b), чтобы получить оптимальную прямую. Главный вопрос - как? Для этого мы должны ввести понятие ошибки модели, чтобы понять, хороши ли она выполняет свою задачу. В нашем примере ошибка - это разность между предсказаниями и реальной стоимостью.
Ошибка модели - средняя разность между реальными значениями и предсказанными по модулю или в квадрате. Формальным языком: L = (y' - y)^2 / n, где n - количество примеров в данных, y' - предсказания, а y - реальные значения y для наших x).
Назовем функцию вычисления ошибок функцией потерь (точнее, она так и называется). Оптимальная модель будет выдавать минимальную среднюю разность, т.е. значение функции потерь будет минимальным. С оценкой определились, теперь переходим к процессу обучения. Для этого мы строим одну случайную прямую, считаем разность между предсказаниями и данными, определяем в какую сторону нам нужно сдвинуть нашу прямую, и сдвигаем, меняя наши k и b на небольшое значение. На какое - задается параметрами модели, обычно этот шаг небольшой, чтобы не перескочить наше оптимальное положение.
Случайная прямая
Один шаг обучения
Второй шаг обучения ( и так далее)
Небольшое отступление, которое можно пропустить. Пытливый ум спросит меня, а как мы определяем в какую сторону двигаться на каждом шаге? Отвечаю - просто смотрим на знак. Раньше я упомянул, что для расчета мы используем квадрат или модуль разностей для каждого отдельно взятого примера и усредняем их. Но тогда все наши расчеты будут положительными. Трюк в том, что при обучении мы используем не саму функцию потерь, а производную от нее или т.н. градиент (блин, обещал же без терминов). Геометрически производную можно изобразить так:
Производная - это тангенс угла наклона касательной к функции потерь в выбранной точке. Производная показывает направление роста функции.
На графике изображена функция потерь при разных значениях для нашей задачи - это парабола. Причем левая ветвь соответствует ситуации, когда мы задаем случайную прямую ниже наших точек, правая - выше. Наша задача попасть из красной точки в желтую, т.е. в минимум функции. Определив градиент, мы двигаемся в сторону уменьшения функции, достигая минимума. Математически, при расчете производной (dL = (2 / n) * (y' - y) * x) мы избавляемся от квадрата и можем получать отрицательные значения (и получаем в нашем примере) и тогда двигаемся в противоположную от знака сторону, прибавляя небольшие значения к нашим коэффициентам k и b.
Возвращаясь к объяснению на пальцах. В реальной жизни параметров, влияющих на стоимость квартиры больше, чем просто ее метраж. Тогда мы переходим в многомерное пространство. В реальной жизни у нас есть другие задачи, например то же отделение фотографий кошек от фотографий собак (задача классификации). Или генерация изображений. Но во всех этих задачах используется один и тот же принцип: мы должны определить функцию потерь - определить как мы вычисляем ошибки предсказаний модели и посчитать разницу между предсказаниями и реальными значениями и изменить значения коэффициентов, в зависимости от смещения предсказаний. Для задачи классификации животных (кошек и собак) мы на самом деле строим точно такую же прямую, просто эта прямая не проходит через точки в пространстве, а старается разделить их. Точками в этом случае могут выступать значения пикселей наших картинок, в таком случае, для обычного изображения кошечки, например, разрешением 512х512, мы работаем в 786432-мерном пространстве (потому что 3 (если используем цветное изображение RGB) * 512 * 512 = 786432) и подбираем в этом пространстве не прямую, а плоскость. И уравнение этой плоскости будет таким y = b + k1 * x1 + k2 * x2 + ... + k786432 * x786432. А функция потерь будет другая, но об этом я уже не буду говорить.
Теперь, когда мы поняли как мы учим, можно понять, что такое нейрон в нейросетях. На самом деле, ответ уже понятен. В процессе обучения мы настраиваем коэффициенты некой функции, нейрон тогда - это просто математическая функция от входных данных. Возвращаясь к статье лучика, на этой картинке нейрон - это как раз таки серый кружочек. А желтые - это значения входных данных. Они могут быть в то же время выходными данными с нейронов предыдущего слоя нейросети.
x1, x2 - значения входных данных, w1, w2, b - коэффициенты (я использовал выше k и b)
А сколько нейронов в нейросети? Много и зависит от архитектуры. Входной слой просто принимает данные и вычисляет взвешенную сумму, передавая результат на внутренние слои. На примере тех же изображений - количество нейронов на первом слое будет зависеть от параметров изображения, а именно от количества пикселей, но количество нейронов скрытых (внутренних) слоев мы устанавливаем сами. Мы можем поставить один нейрон на первый скрытый слой, который будет суммировать все данные, но толку от такой сети будет мало. На выходном слое количество нейронов зависит от нашей задачи. Для генерации нам нужно в каждом пикселе сетки предсказать реальное значение цвета, значит нейронов будет столько же, сколько пикселей нам надо получить. Если мы говорим о задаче классификации, то на выходном слое будет столько нейронов, сколько у нас классов - т.е. 2 для кошек/собак, например. Рассматривать необычные слои, вроде сверток, не будем, но они есть.
А зачем вообще нужны нейросети? Я уже выше описал, что все задачи так или иначе формализуются в набор известных функций. Но преимущество нейросетей в том, что они универсальны как раз за счет общих принципов построения. А взаимодействие нейронов на разных слоях позволяет расширить пространство настраиваемых параметров, что в свою очередь позволяет уловить связи в данных на разных уровнях. Например, разные слои нейросети, обученной на задаче классификации изображений, могут улавливать разные паттерны: например контуры, формы или цвета. Что как раз-таки используется для передачи стиля - мы замораживаем глубинные веса обученной нейросети (те, которые отвечают за пространство, форму и т.д.) и дообучаем на одном стилевом изображении только те слои, которые отвечают за "мазки кисти" и цвета.
Несколько примеров современных нейросетей и как они обучены:
Генерация изображений. Существует множество архитектур сетей для генерации. Причем я говорю о генерации без текстового описания. Например, т.н. GAN-ы. Они обучены генерировать изображения из шума, как и сказано в статье. Но они не обучаются специально запоминать формы, объемы, углы, цвета. Они обучаются генерировать изображение так, чтобы результат не отличался от данных, с которыми мы его сравниваем.
Векторизация текстов - я выделил этот пункт отдельно, т.к. все сети, работающие с текстами, должны уметь переходить от тестов к точкам в пространстве - векторам чисел. Описывать, как это происходит примерно так же долго, как я описывал линейную регрессию. Но для простоты скажем, что нейросети учатся предсказывать пропущенные в тексте слова, настраивая при этом числа в пространстве векторов, где каждый вектор соответствует отдельному слову. Это классическая задача классификации, а значит мы снова строим разделяющие плоскости.
Генерация текстов. И снова множество архитектур. Есть даже не нейросетевые (смотрите цепи Маркова, которые просто считают попарные вероятности слов в тексте). Нейросетевые пытаются предсказать одно следующее слово на основе предыдущих.
Генерация изображений по тексту. Здесь мы объединяем известные подходы и идея такая: раз мы уже знаем, как векторизовать текст, то будем использовать вектора текста как входные данные, а готовые изображения, как идеал, который нужно научится генерировать из шума. Для обучения таких моделей используется огромное количество картинок с описаниями к ним. Кстати, поэтому было много претензий к русскоязычным генеративным моделям, которые генерировали, например, американские флаги по запросу "Родина". Просто сложно создать большой датасет размеченных изображений своими силами, все используют открытые датасеты, и, например, переводят тексты и всячески обогащают данные.
Теперь можно перейти к самому интересному - цитаты из статьи.
Компьютерный нейрон – это просто... число!
Уже выяснили, что нет.
«А если собаки и кошки раскиданы вперемешку, а?» – спросите вы. Ну что ж, тогда нам может потребоваться не одна линия. И возможно не две и не три, а целый десяток или даже сотня. Важно понять, что рано или поздно мы сможем с помощью обыкновенных чисел и прямых «поделить» наш лист так, чтобы нейросеть уже знала наверняка – что именно она «видит», кошку или собаку, в чью именно область она «ткнула пальцем».
Я зацепился за это определение. Потому что если нам известно только 2 класса, то будет только одна "линия" на выходе. Да, каждый нейрон строит свое собственное решение, но он во-первых, не видит какую-то свою область данных, а во-вторых, его решение агрегируется с решениями всех остальных нейронов на выходном слое. То, что описано - это скорее работа классических деревьев решений, которые действительно нарезают пространство на сколько угодно областей.
Проблема номер один – для обучения нейросети нужно очень много информации. Чтобы научить нейросеть отличать кошку от собаки, ей нужно показать тысячи (лучше миллионы) самых разных кошек и собак. Воспитанник детского садика в возрасте трёх лет кошку с собакой не спутает, даже если видел их всего лишь пару раз в жизни...
С миллионом явный перебор. Кроме того, существуют техники дообучения, позволяющие переиспользовать обученные модели с гораздо меньшим набором данных.
Проблема номер два: нейросети совершенно не умеют анализировать собственные творения, объяснять, «что здесь нарисовано и почему», в частности, они не умеют считать! Из-за этого компьютерные изображения постоянно рисуют людей то с шестью, то с восемью пальцами. Или кошек то с тремя, то с пятью лапами.
Вообще-то, объяснять уже умеют. Но только узкий класс мультимодальных сетей (если мы обучим модель генерировать текст по изображению - обратная задача генерации изображения по тексту - то сможет). А с пальцами проблема в общем тоже пофикшена улучшениями архитектур и увеличением количества параметров моделей. Были бы деньги обучать такие модели.
Проблема номер четыре: нейросеть не умеет работать при нехватке информации, «достраивать недостающее». Скажем, человеческий детёныш, даже малыш, увидев кошачий хвост, торчащий из-под дивана, тут же уверенно «распознает» спрятавшегося котёнка и побежит ловить его! Нейросеть такое «неполное» изображение понять не в состоянии. Человек, исказивший внешность (скажем, надевший маску или загримированный) для современной нейросети опять же становится неузнаваемым.
Умеет и достраивает. И распознает и людей в масках узнает. Опять же, на это влияют как архитектура, так и способ получения данных. Всегда можно аугментировать изображения (например в части тренировочных изображений кошек и собак обрезать все, кроме хвостов и тогда такая нейросеть сможет по хвосту определить животное).
Проблема номер пять: нейросеть совершенно не понимает законов нашего мира – скажем, тех же законов оптики. Она никогда не сможет различить на картине человека – и его отражение в зеркале (для живого человека – задачка пустяковая). Она никогда не сможет различить человека или его лицо в кривом зеркале (как это делаем мы на аттракционе «Комната смеха» в городском парке, или когда разглядываем самих себя в новогодние шарики).
Аналогично - аугментация данных решает проблемы с кривыми зеркалами.
Проблема номер шесть: нейросети чрезвычайно чувствительны к разного рода помехам, дефектам, «шуму». Скажем, если на старой фотографии часть изображения залита грязью, чернилами, испорчена пятнами или царапинами, сильно выцвела, если карточка разорвана или разрезана напополам – уверенное узнавание тут же становится неуверенным и вообще ошибочным. Для человека сломанная на части кукла – всё равно кукла; для нейросети – это уже совершенно другой, неизвестный объект
Формально - да. Именно поэтому при обучении специально добавляют шум, аугментируют данные, выключают часть нейронов. И тогда модель справляется.
Проблема номер семь: нейросети на текущий момент ужасающе «однопрограммны». Если нейросеть настроена на распознавание лиц – она будет уметь только распознавать лица. Переучить её на написание текстов или музыки будет чрезвычайно сложно, часто вообще проще написать и обучить совершенно новую сеть. Если она умеет отличать квадраты от треугольников – даже не пробуйте попросить её отличить кошку от собаки или самолёт от парусной лодки...
В целом верно, но не совсем. В рамках одной моды и архитектуры - работа с текстом, или изображениями, или музыкой - переучить нейросеть не проблема. И даже мультимодальные модели существуют и активно развиваются. Но да, архитектура генератора музыки и генератора изображений и данные для этих сетей настолько разные, что просто в тупую подменить данные нельзя. Удивительно.
Проблема номер восемь: связи между компьютерными нейронами случайны, поэтому нейросети лишены запоминания созданных образов. На приказ «нарисуй мне дерево» нейросеть охотно откликнется и будет рисовать деревья снова и снова, но... каждый раз это будет «другое дерево». И если вы напишете команду «нарисуй мне такое же дерево, как в прошлый раз, только на берегу реки», нейронная сеть не поймёт вас. Она опять нарисует «новое случайное дерево».
Связывать случайность (кстати, они не случайны, а заданы архитектурой) связей между нейронами и неспособность запоминать созданный образ - максимально некорректно. То, что здесь описано, на самом деле решаемо. Но это решение за пределами архитектуры нейросети. Это как предъявлять претензии микроволновке, за то, что она не включила сама кнопку, типа, могла бы и запомнить. У нее нет инструментов запоминания результата, как нет у голой нейросети - она получает данные на вход, генерирует выход и все.
В целом, я догадываюсь, что изначальная статья была рассчитана на детей младшего школьного возраста. И я по размышлению выкинул из моего разбора несколько цитат, которые на самом деле оказались верны, просто сильно упрощают представление. И то, что я описал может быть не всем понятно и требует более глубокого погружения.
Часто кажется, что технический прогресс, изменяющий жизнь людей, замедлился – «все велосипеды уже изобрели». Что ж, в самом деле, велосипед современного типа – так называемый «ровер», он же «безопасный велосипед» – появился на свет ещё в XIX веке:
Велосипед Ровер 1885 года
А прогресс готовится совершить очередной огромный шаг в неизведанное. Речь о компьютерных нейронных сетях. Они уже умеют вполне прилично распознавать лица людей, писать и переводить тексты рисовать картины. Сочинять музыку – причём не только простенькую попсу, но и вполне себе «серьёзную», вот послушайте:
Если первые опубликованные результаты работы нейронных сетей, вызывали смех ввиду своей откровенной нелепости, то сейчас – напротив! – нередко вызывают у людей неподдельное восхищение и удивление: как?! Вот это сделал тупой компьютер?!
Иллюстрация к художественному рассказу, выполненная нейросетью
Это удивляет, радует – но одновременно вызывает кучу вопросов.
Раньше считалось, что компьютеры лишены таких человеческих качеств, как творческое воображение, вкус, инициатива... И вдруг оказывается, что они вполне способны на творческую работу! Причём делают её (в отличие от людей) быстро, дёшево, безропотно, не устают, не болеют. Что же это тогда получается?
Нейронные сети оставят без работы переводчиков и копирайтеров, журналистов и художников, композиторов, поэтов и писателей, а кто будет следующим? Экономисты, врачи, юристы, политики, архитекторы, учителя – все они тоже будут постепенно вытеснены компьютерными программами? А что останется людям?
Однако оставим этические вопросы. Давайте разберёмся, как эти нейросети устроены, как они работают?
Как устроена, из чего собрана нейронная сеть? Само название подсказывает нам, что она состоит из нейронов. Вот тут нас ждёт первый сюрприз! На самом деле нейроном называют нервную клетку человека или любого другого существа, у которого есть нервная ткань. Нервы – это «система управления» живым организмом, те самые «провода», по которым передаются самые разные команды: от относительно простых, типа «сжать пальцы / разжать пальцы», до невероятно сложных («вспомнить теорему Паппа-Гульдина»). По представлениям современных учёных, каждый нейрон может быть в двух основных состояниях – невозбуждённом и возбуждённом.
Внутри компьютера «всё не так». Компьютерный нейрон – это просто... число! Обыкновенное число – скажем, от нуля до единицы. Текст, звук, изображение, музыка – абсолютно любая информация внутри компьютера преобразуется в числовую таблицу – насколько большую, зависит от того, насколько сложная у нас информация. Скажем, для того чтобы «оцифровать» чёрно-белую фотографию квадратной формы, мы можем взять «решётку», «матрицу» размером восемь на восемь точек (всего 64 «нейрона»), а можем – 256 на 256 точек (то есть свыше 65 тысяч «нейронов»). При этом единица будет соответствовать белому цвету, ноль – чёрному, а остальные числа – различным оттенкам серого.
Изображение разбито на разное число датчиков-нейронов для анализа
Числа-нейроны внутри компьютера организованы в «слои», и эти слои связаны между собой многочисленными связями – будто невидимыми ниточками. При этом каждая связь – это ещё и математическая формула, простая, но очень важная. И у этой формулы есть свои параметры, свои «рычаги управления». Как педали «газ» и «тормоз» на автомобиле. Зачем они? Сейчас объясним.
Здесь взаимодействуют два компьютерных нейрона (выделены жёлтым)
Изначально нейронная сеть абсолютно глупа, она ничего не умеет и не знает. И все связи между нейронами одинаковы. Но вот начинается самое интересное – обучение нейросети! Да-да, компьютерная нейросеть, прежде чем заработать, должна пройти (иногда очень долгий и трудный) процесс обучения. Который в чём-то очень похож на обучение детей в школе.
Допустим, мы хотим научить нейросеть отличать нарисованный круг от нарисованного треугольника. С помощью специальной программы мы «показываем» нейронам первого слоя («сенсорам», «датчикам») самые разные круги и треугольники. Десятки, сотни, тысячи! Да что там тысячи – скажем, обучающий набор данных («датасет») Digi-Face 1M содержитсвыше миллиона фотографий человеческих лиц! И каждый раз мы как будто нажимаем на кнопку «это треугольник» или «это круг» – то есть как бы «говорим» сети, что именно изображено, «объясняем» ей. При этом сама нейросеть тоже пытается «угадать», что именно изображено – и все её нейроны как бы «голосуют», каждый за свой вариант.
Устройство более сложной многослойной нейросети
Помните, мы говорили о том, что каждая связь в нейронной сети – это формула с «рычагами управления»? И вот тут начинает работать известный людям (особенно школьникам) с давних времён «метод поощрения и наказания». Те нейроны, которые ошиблись, «проголосовали» за неправильный вариант ответа, «наказываются» – им не ставят двоек, но вот связи между ними ослабляются, и в следующий раз голос «двоечника» будет учитываться меньше. Те нейроны, которые «голосуют» правильно, напротив, «поощряются» – только вместо пятёрок их связи усиливаются (математически), при следующем «голосовании» их голоса будут слышны «громче» остальных. Наконец, после достаточного количества «уроков» (и если сама нейронная сеть построена правильно, то есть верно выбраны число нейронов и их слоёв), мы получаем готовую к работе обученную сеть. Уррра, заработала!
«Но как с помощью каких-то чисел можно узнавать предметы?!» – спросите вы. Это вполне возможно! Рассмотрим самый простой пример. Представьте себе плоскость, лист бумаги, в одной части которого нарисованы самые разные кошки, а в другой части – самые разные собаки. Процесс «угадывания» компьютерной нейросетью похож на выбор какой-нибудь точки на этом листе бумаги – если мы попали в область с кошками, то отвечаем «кошка». А если попали в область с собаками, отвечаем «собака». Но погодите! Ведь мы же можем взять линейку и просто провести через лист линию, которая отделит область с собаками от области с кошками! А любая прямая линия в математике записывается очень простым уравнением:
y = ax + b
Такое уравнение называется «линейным». У него всего лишь два параметра, два «рычага управления» – это числа a и b. Это означает, что абсолютно любую прямую линию на плоскости мы можем построить, зная всего лишь два числа! Когда мы только начинаем обучение нейросети, значения этих чисел «какие-то», взятые с потолка и совершенно неправильные. Но когда нейросеть в процессе обучения «тыкает и угадывает», она как бы немножечко изменяет эти числа, «сдвигает» так, чтобы в результате наша прямая точно отделила всех собак от всех кошек! И – вуаля! – наша задача решена, нейросеть умеет распознавать кошек и собак!
Подбирая положение линии, мы можем научиться отличать собак от кошек на листе бумаги
«А если собаки и кошки раскиданы вперемешку, а?» – спросите вы. Ну что ж, тогда нам может потребоваться не одна линия. И возможно не две и не три, а целый десяток или даже сотня. Важно понять, что рано или поздно мы сможем с помощью обыкновенных чисел и прямых «поделить» наш лист так, чтобы нейросеть уже знала наверняка – что именно она «видит», кошку или собаку, в чью именно область она «ткнула пальцем». Теперь понятно?
«Ну ладно, в отличить кошку от собаки с помощью математики это ещё можно поверить – скажете вы – но как быть с теми же самыми рисунками? С рисованием? С написанием музыки?». Будете смеяться – но снова «всё почти как в школе». Скажем, рисование. Сперва многослойную нейросеть снова обучают на уже существующих многочисленных картинах, фотографиях, образах. Учат её определять «контент» – то есть форму предметов, цветовую гамму, контуры, линии, углы... А затем подают «на вход» уже обученной системы что-нибудь «другое». Какую-нибудь каляку-маляку или «цветовой шум», хотя это может быть и вполне себе «нормальное» изображение – просто другое, «постороннее». И тогда система – её же научили этому! – начинает как бы находить внутри постороннего знакомое и усиливать. Примерно как мы, люди, глядя на облака, узнаём контуры знакомых животных – то верблюда, то льва, то собаки... В точности так же нейросеть может «применить» заученный «стиль» – то есть некую совокупность цветов, линий, форм и так далее – к заданной картинке. И получить, скажем, картину «Утро стрелецкой казни», написанную Ван Гогом. Или Эдвардом Мюнчем. Учёные, которые любят мудрёные слова, называют это «инцепционизм» (язык сломаешь, но тут мы не виноваты).
Применение стиля к изображению
С музыкой всё даже проще, чем с изображением – это красок может быть сотни и даже тысячи, а нот всего семь (точнее, двенадцать, но это тоже немного). Сперва мы обучаем нейросеть – то есть учим её распознавать ритмический рисунок, мелодию, движение нот – вверх, вниз, скачками или плавно. А затем берём обычный шумовой сигнал, «белый шум», применяем к нему нашу нейросеть – и вдруг получаем нечто музыкальное на выходе! Само собой – это «нечто» будет именно в том стиле, на который нашу нейросеть «натаскивали». Если нейросеть «учили» на рок-музыке – будет рок. Если на рэпе – то непременно будет рэп. Но уже какой-то «свой», не точная «копия», а нечто среднее, где будут те или иные элементы от каждого «урока». Не так ли работают и живые композиторы, кстати?
Применение стиля к изображению нейросетью
...Или поэты с писателями? Ведь что такое, например, литературная пародия? Когда к одному тексту применяют «стиль» определённого автора? Скажем, как в книге «Парнас дыбом» – где известное всем детское стихотворение «Жил-был у бабушки серенький козлик» как будто «писали» разные авторы. То Иван Андреевич Крылов:
У старой женщины, бездетной и убогой,
Жил козлик серенькой, и сей четвероногой
В большом фаворе у старушки был...
То Александр Сергеевич Пушкин:
Одна в глуши лесов сосновых
Старушка дряхлая жила,
И другом дней своих суровых
Имела серого козла...
То Алексей Константинович Толстой
А уж кто бы нам песню-былину завёл,
Чтоб забыть и печаль и нелады.
Как живали старуха и серый козёл.
Ой, ладо, ой, ладушко ладо!
Вот и нейронная сеть: её обучают на определённом материале (скажем, на текстах Пушкина). И она как бы заучивает его характерные обороты, подбор слов, длину фраз – в общем, «стиль». А затем обученную сеть запускают на совершенно другом материале – да хоть на репортаже с футбольного матча! Неожиданно интересная штука может получиться, не так ли?
«Что же тогда – спросите вы – нейронные сети вообще могут всё?». Ну, не знаю, огорчим мы вас или обрадуем, но... нет, не всё. Чего то нейросети не умеют «пока», и возможно в дальнейшем они этому научатся. А что-то для них недоступно в принципе. Итак, где же у нейросетей проблемы?
Проблема номер один – для обучения нейросети нужно очень много информации. Чтобы научить нейросеть отличать кошку от собаки, ей нужно показать тысячи (лучше миллионы) самых разных кошек и собак. Воспитанник детского садика в возрасте трёх лет кошку с собакой не спутает, даже если видел их всего лишь пару раз в жизни...
Проблема номер два: нейросети совершенно не умеют анализировать собственные творения, объяснять, «что здесь нарисовано и почему», в частности, они не умеют считать! Из-за этого компьютерные изображения постоянно рисуют людей то с шестью, то с восемью пальцами. Или кошек то с тремя, то с пятью лапами.
Кошки с неправильным количеством лап – это обычное дело для нейросетей
Проблема номер три: для работы нейросеть должна быть обучена, у неё отсутствует фантазия. Я уже упоминал про свой рассказ «Велозавр и велотавры», для которого нейронная сеть нарисовала очень хорошую иллюстрацию с мальчиком на велосипеде. Но вот когда я «попросил» систему нарисовать того самого велозавра или велотавра, она... она просто не понимала, о чём идёт речь! И упорно рисовала мне обыкновенного велосипедиста на дороге. Догадаться «скрестить» велосипед с динозавром или велосипед с кентавром? Это было вне её понимания! В общем, нарисовать бегемота нейросеть сумеет. А вот бармаглота из сказки про Алису – нет.
Проблема номер четыре: нейросеть не умеет работать при нехватке информации, «достраивать недостающее». Скажем, человеческий детёныш, даже малыш, увидев кошачий хвост, торчащий из-под дивана, тут же уверенно «распознает» спрятавшегося котёнка и побежит ловить его! Нейросеть такое «неполное» изображение понять не в состоянии. Человек, исказивший внешность (скажем, надевший маску или загримированный) для современной нейросети опять же становится неузнаваемым.
Проблема номер пять: нейросеть совершенно не понимает законов нашего мира – скажем, тех же законов оптики. Она никогда не сможет различить на картине человека – и его отражение в зеркале (для живого человека – задачка пустяковая). Она никогда не сможет различить человека или его лицо в кривом зеркале (как это делаем мы на аттракционе «Комната смеха» в городском парке, или когда разглядываем самих себя в новогодние шарики).
Проблема номер шесть: нейросети чрезвычайно чувствительны к разного рода помехам, дефектам, «шуму». Скажем, если на старой фотографии часть изображения залита грязью, чернилами, испорчена пятнами или царапинами, сильно выцвела, если карточка разорвана или разрезана напополам – уверенное узнавание тут же становится неуверенным и вообще ошибочным. Для человека сломанная на части кукла – всё равно кукла; для нейросети – это уже совершенно другой, неизвестный объект.
Проблема номер семь: нейросети на текущий момент ужасающе «однопрограммны». Если нейросеть настроена на распознавание лиц – она будет уметь только распознавать лица. Переучить её на написание текстов или музыки будет чрезвычайно сложно, часто вообще проще написать и обучить совершенно новую сеть. Если она умеет отличать квадраты от треугольников – даже не пробуйте попросить её отличить кошку от собаки или самолёт от парусной лодки...
Проблема номер восемь: связи между компьютерными нейронами случайны, поэтому нейросети лишены запоминания созданных образов. На приказ «нарисуй мне дерево» нейросеть охотно откликнется и будет рисовать деревья снова и снова, но... каждый раз это будет «другое дерево». И если вы напишете команду «нарисуй мне такое же дерево, как в прошлый раз, только на берегу реки», нейронная сеть не поймёт вас. Она опять нарисует «новое случайное дерево».
У нейросети неплохо получаются пейзажи, а вот в парусах она разбирается "приблизительно"...
Однако вернёмся к началу нашего разговора. Задайтесь вопросом – а способна ли нейросеть, например, придумывать законы? И ответ здесь будет скорее «да», чем «нет». Существует огромное количество законов, юридических документов – если «пропустить» их все через достаточно сложную нейросеть, она вполне будет в состоянии «заговорить» тягомотным и малопонятным юридическим языком, начать «штамповать» циркуляры и распоряжения... Но захотите ли вы жить по законам, которые штампует компьютер?
Способна ли нейросеть ставить диагноз больному в поликлинике и назначать лечение? Снова «да» – но врач-человек несёт ответственность за принятое решение. У нейросети никакой ответственности (а уж тем более ни совести, ни сострадания) быть не может – если она вдруг ошиблась, то... ничего. Ну, ошиблась и ошиблась, это же компьютер, а что человек пострадает при этом – а кого это волнует? Захотите ли вы лечиться у таких врачей?
С одной стороны как здорово сказать компьютеру – «слушай, Алиса, нарисуй мне стрекозу на цветке!». И – ррррраз! – держите, пожалуйста, рисунок. Но с другой стороны – неужели рисовать самому настолько тяжело и неинтересно, что обязательно нужно перепоручать это дело компьютеру? А?
Почему Земля вращается? Как устроена бесконечность? Как измеряют расстояние до звёзд? Что такое энтропия, и грозит ли вселенной тепловая смерть? Что такое гравитация и гиперпространство, и почему время нам только кажется?
Полистать журналы можно здесь
Подписаться – на сайте Почты России
Купить – на Wldberries
Скачать бесплатно – здесь.