MikhailDubko

На Пикабу
поставил 7 плюсов и 5 минусов
отредактировал 0 постов
проголосовал за 0 редактирований
в топе авторов на 640 месте
Награды:
5 лет на Пикабу
6170 рейтинг 122 подписчика 7 подписок 22 поста 13 в горячем

Нейросеть FEMnet. Машинное обучение метода конечных элементов

Всем привет ! Эта статья скорее просто некий отчет для пикабу и ответ на многие вопросы, которые задавались в предыдущих статьях. Часть информации из предыдущих постов я убрал, так как среди различных групп разработчиков различных крупных компаний началась небольшая охота за моими наработками и начали интересоваться специалистами кто работает в проекте, что бы узнать детали проекта. Поэтому мне пришлось убрать часть информации из публичного доступа.

За прошедший год у проекта был очень сильный прирост по технологиям и по скорости их развития, но перед тем как показать какой результат достиг проект Prometey, я хотел бы показать чего достигли команды конкурентов по данной тематике в мире:

  1. Хорватско-китайский стартап Siml.ai, предоставляют другим разработчикам пред обученные модели нейросетей для моделирования различных физических процессов, основаня масса пользователй из нефтехимической или атомной промышленности. Так же предоставляют оборудование в аренду для обучения нейросетей.

  2. Большой международный проект университета Стэндфорд, заказчик ExxonMobile, принимают участие инженеры и ученые из Китая и США. В проекте нейросети обучают нахождению вложенных нейронных операторов Фурье. Ускорение, по сравнению с классическим МКЭ, до 700 000 раз.

    3. Очень большое количество теоретических исследований ученных из Китая, США, Британии, Франции, Италии, Сингапура, Германии, Индии, Швейцарии, ОАЭ, Ирана т д, но исследования без практического применения. Например один, два, три, четыре, пять.

За 2023 год, исследователей, в направлении машинного обучения метода конечных элементов, стало больше примерно в 10 раз.

В чем же заключается суть нейросети FEMnet проекта Prometey ? - в программе Prometey реализован классический решатель на основании такого же классического решателя методом конечных элементов. Он находит за n-ое время решение задачи, в частности напряженно деформируемое состояние отдельных частей здания. Далее Prometey сам записывает все результаты в специальный файл, который и является данными для обучения нейросетей. Сервер обучения нейросетей собран на базе видеокарт Nvidia 4090. Это пока лучшее соотношение цена - скорость обучения. Стек обучения нейросети FEMnet - Prometey, Pandas, Tensor Flow, Num Py, Pandas.

Все модели нейросетей FEMnet - это многослойные перцептроны на разных функциях активации. В зависимости от необходимого результата используются разные:

Нейросеть FEMnet. Машинное обучение метода конечных элементов Технологии, Будущее, Стартап, Инновации, Проект, Видео, YouTube, Без звука, Длиннопост

Рис.1 - функции активации нейронов

Модели нейросетей, в текущей версии программы Prometey, уже прошли эволюцию в сотни поколений. Механизм выбора модели, переходящей на следующую ступень эволюции, довольно простой, выигрывает та модель , которая показывает лучшую сходимость с результатами классического МКЭ(FEM).

Нейросеть FEMnet это не одна нейросеть , это целая система нейросетей. Каждая модель обучается на миллионах данных. Каждая итерация обучения каждой нейросети занимает в среднем 72 - 90 часов на двух видеочипах 4090. Для примера ChatGPT 4.0 обучали на 9000 видеочипах Nvidia 4090 в течение нескольких месяцев. Для FEMnet необходимы сотни миллионов данных которые будут уходить на сервер из 1000 видеочипов Nvidia 4090. На текущий момент в РФ все суперкомпьютеры не подходят для данной задачи, так как они все построены на CPU и видео чипах старого поколения.

Краткая презентация FEMnet:

В будущем, в Prometey появится возможностью использования FEMnet не за счет CPU , а за счет GPU. Тогда изменение НДС решаемой задачи займет не секунды, а даже доли секунд. В примере ниже демонстрация как меняется прогиб плиты перекрытия в зависимости от положения пилона:

Инструкция по использования FEMnet:

Как видно , FEMnet и Prometey далеко впереди чем ближайшие команды из других стран. Проекту уже предлагали релокацию, но она лично мне не подходит , так как есть два условия на которые я не пойду:

  1. Убрать "русский след"

  2. Полная релокация из РФ

На ткущий момент проект в поисках инвестиций, которые по объему выше чем все затраты на САПР и BIM в РФ за последние несколько лет. Большая часть инвестиций уйдет на ЦОД обучения нейросетей.

Если кто-то из читателей Пикабу является владельцем частного плавучего ядерного реактора для северных широт и такого же плавучего ЦОДа способного работать за полярным кругом (для экономии на охлаждении) , то я готов принять в дар данное оборудование.

Показать полностью 1 3

Геометрическое ядро САПР программ нового поколения

Для начала немного истории, все программы автоматизированного проектирования в том или ином виде берут свое начало с конца прошлого тысячелетия, а именно:

Autocad - 1982 г.

Revit - 1997 г.

Tekla - 1966 г.

Компас  - 1997 г.

Allplan - 1982 г.

ArchiCad - 1986 г.

Solidworks - 1993 г.

И многие иные, даже сложные комплексы для расчетов такие как ANSYS и ABAQUS созданы в конце прошлого столетия.

Из отечественных можно еще выделить Renga , но она создается на старом ядре C3D компании АСКОН, а они в свою очередь создатели Компаса, поэтому это одно и тоже решение в разных обёртках.


Все данные САПР программы объединены одним общим принципом, они все создавались на основе одного принципа обработки информации - последовательного, это было следствием реалий тех времён, не существовало аппаратных устройств многопоточной обработки информации. Но времена идут, всё меняется , но не меняются геометрические ядра. В среднем на создание полноценной САПР программы уходит от 5 до 7 лет и довольного большого числа сотрудников - разработчики, тестировщики, консультанты и т.д. и в текущих реалиях ни одна из компаний разработчиков не пойдет на полноценную перепись с нуля своих геометрических ядер под многопоточные CPU и GPU. Конечно, программы обновляются с каждым годом, но все данные нововведения по сути косметические без глубокой оптимизации.


В прошлом году я разместил пост в котором продемонстрировал возможности Unreal Engine 5 при отображении многомиллиардно полигональной геометрии. В течении последнего года я вел разработку геометрического ядра которое сможет использовать многопоточную обработку на CPU - процессов требующих двойной точности, а на GPU - процессов где хватает и одинарной точности. Новые видео карты Nvidia - 3070, 3080, 3090 уже способны находить решения с двойной точностью на тензорных ядрах (они используются при обработки трассировки лучей в играх)  , но на данный момент у меня работа с данными ядрами на этапе экспериментов.


По сути получилось решение которое по производительности превышает любую программу выше в списке от 10 до 100 раз и более. И это касается любых действий, отображение графики, копирования, изменений, перемещений, подсчета материалов и т.д.:

https://www.youtube.com/watch?v=cmcsxwrDo3o

В моем решение используется ровно такой же подход как в Unreal Engine 5 в технологии nanite. При удалении камеры пользователя происходит постепенная эрозия геометрии и упрощение геометрии вплоть до отображения одного пикселя, что позволяет отображать многократно больший объем информации по сравнению с программами "пенсионерами". Но у технологии Nanite есть один большой минус, необходимо предварительное кэширование шейдерных текстур на жёсткий диск , в САПР это невозможно , поэтому мне пришлось данную технологию переработать под САПР и особенно под армирование строительных конструкций и впереди еще много работы.

Показать полностью 1

Революционная технология Nanite от Epic Games для САПР программ

Технология Nanite по своей сути очень простая, пережимается карта текстур любой геометрии в примитивную или вообще удаляется в зависимости от удаления наблюдателя. Для примера если расположить модель футбольного мяча в детализации 1 000 000 полигонов и удалить его от наблюдателя (пользователя ) на 1 км, то мяч на экране пользователя будет 1 пиксель и обрабатывать 1 000 000 полигонов  не имеет никакого смысла. За счет этой технологии можно теперь перерабатывать десятки и даже сотни миллиардов полигонов с частотой 100 кадров /с. В теории можно создавать единую модель цифровых не просто зданий , а целых заводов , стран, планет с самой высокой детализацией.

Я решил протестировать данную технологию на высоко детализированных моделях армирования зданий в разных САПР и показать на сколько отстают все существующие технологии обработки геометрии от технологии Nanite на Unreal Engine 5:

И при этом последняя модель не загружается никуда вообще - Revit, Allplan, Tekla , а так же в иные не САПР программы, например Blender, 3DMax

ИИ проектирует здание

Многие видели как ИИ играет в тетрис, Марио, Старкрафт, Доту. Но наверное никто не видел как ИИ работает и выполняет работу инженера. Самое сложное в разработке нейросетевых моделей это сама модель, а не ее обучение или процесс программирования. В течении нескольких лет я протестировал и разработал много моделей нейросетей для ИИ. Но они были не совсем "человекоподобные" и в конце прошлого года мне удалось получить результаты нейросети на уровне человека - инженера.

Сейчас ИИ может создавать тысячи вариантов расположения колонн в здании в течении суток. Данную задачу инженеры на практике решают опираясь на свой опыт и при этом два инженера решают данную задачу по разному и никто из них никогда не сможет разработать хотя бы 100 вариантов и отсортировать их по уровню эффективности и оптимальности, на это им просто не хватит времени.

ИИ состоит из двух нейросетей которые по сути я скрестил в одну топологию. Третья нейросеть (в комбинации с разными алгоритмами) определяет эффективность работы первых двух нейросетей. Я обучил нейросети руководствуясь 50 правилами, в ходе обучения нейросети создали дополнительные гибридные правила (комбинации из основных) и теперь понять, что именно они делают я в большинстве случаев не знаю , они просто дают результат который меня устраивает.

Видео демонстрирует работу ИИ:

Сейчас нейросети обучены по сути на одном примере плана здания и в видео показана их "смекалка" в незнакомых условиях в которых они прослеживают знакомые им закономерности. При этом ИИ месяц назад был по показателю интеллекта на уровне Инфузории-туфельки :

Показать полностью 1

Математическая модель разрушения бетонных и железобетонных конструкций от попадания пушечного ядра

Всегда было интересно,  на сколько сильными по мощности были старые артиллерийские боеприпасы. Интересовала их фактическая  разрушительная способность. Информации по этому поводу в открытых источниках мало , поэтому решил поэкспериментировать с математическими моделями. 

Если интересно модель бетона Друкер-Прагер с эрозией элементов достигших предела прочности. Хотелось бы разрешение 2К видео, но для этого необходимо 512 Гб оперативной памяти.

Как меня (нас всех ?) Beeline 10 лет обманывал

В сообщении будет мат. Есть такая компания как Beeline и в последнее время они звонят многим с желанием "помочь". Помощь заключается в том что они предлагают перейти на более дорогие тарифы. В чем суть предложения , по факту траты (они сами об этом говорят) на мобильную связь выше чем аб. плата в месяц и поэтому предлагают доплатить к сущ. тарифу допустим 300 рублей что бы сравнять плату абонентскую с реальными тратами , а в замен вам дают + доп. минуты, + доп. смс + доп. гигабайты. Вроде все логично, но я отказался, так как решил разобраться почему у меня вместо 800 рублей списывается 1200 в среднем (решил наконец то убить 2 часа своей жизни), при этом я не использую все 1000 смс, 7 ГБ и 1000 минут.

Приложение "мой билайн" почему то лежит на боку сейчас, я обновил , все равно лежит на боку, тогда я отключил Wi-FI и смог зайти при использовании пчелиного интернет трафика и вот что я увидел :

Как меня (нас всех ?) Beeline 10 лет обманывал Жалоба, Обман, Сотовые операторы, Преступление, Длиннопост, Обман клиентов

Сегодня 16 рублей за исходящие при том что у меня еще 471 минута бесплатная, решил посмотреть детально что там за звонки:

Как меня (нас всех ?) Beeline 10 лет обманывал Жалоба, Обман, Сотовые операторы, Преступление, Длиннопост, Обман клиентов

Выяснилось что я плачу за исходящие в том случае если человек, например из Томска, купил сим карту в Липецке , приехал в Мск и я ему звоню за 6.2 руб/минута, а кто из Питера то 3.21, такой звонок считается чуть ли не муждународным мать его за ногу, а если у вас есть знакомые марсиане и они каким то чудом работаю в Мск, то звонок гуманоиду будет стоить как межгалактический . Мое мнение, что эти суки пчелиные со штопаными желто-черными гандонами тут нарушают закон о рекламации. Я решил посмотреть финансовый ущерб который я понес за 1 месяц:

Как меня (нас всех ?) Beeline 10 лет обманывал Жалоба, Обман, Сотовые операторы, Преступление, Длиннопост, Обман клиентов

Эти суки меня на 600 рублей обманывали ежемесячно. В год 7200, за 10 лет с учетом роста цен примерно 50 000 рублей и я буду после карантина обращаться в прокуратуру о возмещении данной суммы. Существует федеральный закон о рекламации №38, статья 5 пункт 7:


"7. Не допускается реклама, в которой отсутствует часть существенной информации о рекламируемом товаре, об условиях его приобретения или использования, если при этом искажается смысл информации и вводятся в заблуждение потребители рекламы."

Смотрим что у этих геев на сайте:

Как меня (нас всех ?) Beeline 10 лет обманывал Жалоба, Обман, Сотовые операторы, Преступление, Длиннопост, Обман клиентов

Я не обязан знать все юридические тонкости внутренних тарифных операций, если в рекламе и в тарифе указано 1000 минут бесплатно в пределах подключения  , то 1000 минут бесплатно в ином случае должны расписать в табличной форме куда и как и при каких условиях. И сколько таких подводных камней ХЗ, у меня есть еще графа прочее и там то же списываются деньги , за что , что это такое ? я не стал уже разбираться с графой "другое", мне списание за исходящие звонки хватило.

Я решил узнать какие тарифы например у МТС, "тарифище" предлагает 500 - по всей РФ без разницы где купили сим карту(хоть на Луне) , 500 смс и 25 ГБ за 650 рублей , всего по 1000 уже за 950 рублей. В данном случае ,лучше я буду плитать даже 950 рублей чем хавать ежедневный наеб от людей кто должен сидеть в тюрьме. Я думаю такая ситуация не у одного меня, сегодня я полностью разобрался за что плачу. Можете считать что это реклама МТС, мне все равно.

У меня было установлено автопополнение баланса, поэтому я не замечал что у меня идет списание больше почти в 1.5 раза, психологически это не замечается.

Не повторяйте мою ошибку, уделить 1 час что бы проверить за что вы платите Beeline.


P.S. Эти суки у меня 31 рубль списывают вместо 26 х.з. за что , но это уже другая история. Это будет 2 иск.

Показать полностью 4

Сравнение работы конструкции из алюминия и стали

В последнее время в России вырос спрос на новые технологии которые могут изменить классические представления о строительстве. Для примера более сотни лет прошло с момента строительства первого моста из стали, но прошли годы и все мосты построенные с использованием стали исчерпали свой физический и моральный ресурс надежности. Дело в том что эксплуатация мостов требует качественный и своевременный уход за конструкциями, препятствующий коррозии металла, но обеспечить плановый и ежегодный уход как оказалось очень проблематично и с точки зрения финансов и кадров.

Одним из перспективных направлений мостостроения я и мои коллеги из алюминиевой ассоциации и МГСУ видят в использовании условно "вечного" материала под названием алюминий. Еще лет 10 назад на то время существующие сплавы не давали высокую прочность, но прошли годы и ситуация изменилась.

Так как язык инженера чертеж, то для наглядности сравнения стального и алюминиевого пешеходного моста выложу видео:

Так же существует убеждение что это все очень дорого, но не все так однозначно, как видится на первый взгляд. С учетом роста промышленности под алюминиевые сплавы и профили, цена снизится, а с учетом почти полного отсутствия затрат на стадии эксплуатации, конечная экономия составит несколько порядков по отношению к классическому мостостроению.

Без ремонта мост может стоять до 100 лет при температурах от - 80 до +300, при низких температурах прочность алюминия повышается , у стали понижается. Поэтому это перспективный стройматериал для северного полушария нашей планеты. Помимо этого существуют сплавы алюминия по плотности меньше плотности воды , поэтому это действительно материал будущего.

Показать полностью

Искусственный интеллект решает задачи сопромата

Занимаюсь нейропрограммированием, решил научить нейронную сеть решать задачи сопротивления материалов.

Пока человечество против ИИ побеждает с небольшим перевесом, но недалек тот день когда....

Отличная работа, все прочитано!