Нетленную классику от Джеймса Кэмерона про уничтоживших человечество разумных роботов наверняка смотрели все. При этом мы с удовольствием следим за развитием искусственного интеллекта и всячески приветствуем его внедрение в различные сферы нашей повседневной жизни, ведь это же так удобно и круто, если с рутиной вместо человека справляется компьютер…
Вот только мы не учли, что выполнять заданные алгоритмы компьютер будет, следуя понятной лишь ему логике, что может не соответствовать нашим ожиданиям и приводить к незапланированным результатам. Портал bamper.by никогда не был противником прогресса, но также помнит и мрачные предсказания из научной фантастики, сделанные еще в середине прошлого века, поэтому за развитием искусственного интеллекта наблюдает с опаской, о чем сегодня и расскажет.
Во всем виновата Tesla
Речь, конечно, пойдет не о боевых роботах, предназначенных для военных действий вместо живых солдат. Нас интересуют вполне миролюбивые электромобили, которые, как нам рассказывают, совсем не загрязняют атмосферу и являются символом развития высоких технологий XXI века. Флагманом в данном сегменте автомобилестроения является Tesla, год за годом совершенствующая свою продукцию и задающая тон среди конкурентов.
Пожалуй, именно этому бренду мировая индустрия обязана сменой вектора в промышленности, ведь если бы Илону Маску не удалось убедить около миллиона людей по всему миру покупать его электромобили, все крупные бренды продолжили бы наращивать, а не сокращать производство машин с ДВС. В ближайшей перспективе многие из них планируют вовсе отказаться от выпуска бензиновых автомобилей и перейти на альтернативные виды топлива. Однако уже сейчас по миру колесит около 16 млн электрокаров – это около 8,6% общего количества всех транспортных средств на Земле. И минимум 2 млн из них произведено компанией Tesla.
Все бы ничего, если бы авто на электричестве просто являлись воплощением глобального тренда на экологию. Но с момента выпуска первого массового автомобиля Model S в 2012 году инженеры Tesla постоянно прокачивали модельный ряд, обеспечивая топовые версии авто таким продвинутым функционалом, как активный автопилот.
Впервые автопилот Full-Self Driving для электрокаров Tesla стал доступен еще в 2016 году – его предлагали в качестве опции по цене $10.000. Со временем технология обновлялась, а ее функционал расширялся. При этом к 2019 году было выяснено, что на старых моделях бренда процессор бортового компьютера не справляется с автономным управлением.
Тогда же была выпущена новая версия Full-Self Driving, обновление ПО которого (вместе с процессором) предлагалось бесплатно. Однако впоследствии доступ к улучшенной системе автоматического пилотирования для моделей Tesla образца 2016-2019 годов было решено предоставлять за деньги – $1500, что идет вразрез с предыдущим заявлением бренда.
Стоит отметить, что автопилот Tesla относится ко второму уровню, при котором водитель обязан находиться за рулем и следить за ситуацией на дороге. В это время автомобиль может самостоятельно ехать по заданному маршруту, менять полосу движения, останавливаться и трогаться на светофоре, а также самостоятельно парковаться. Иными словами, дорожную обстановку контролирует и человек, и машина. Разве в этом случае что-то может пойти не так?
Отзывная кампания
Перед серийным выпуском новой модели каждый производитель на протяжении нескольких лет тестирует прототип, а затем «шлифует» его на стадии предсерийной сборки. Все это делается для того, чтобы исключить любые недоработки технических узлов и функционала. Тем не менее отзывные кампании время от времени все же случаются. Но если раньше это касалось устранения дефектов в работе силовых агрегатов, рулевом управлении, тормозной и охлаждающей системах, то сегодня с появлением автопилота «дефектовка» авто перешла на новый уровень.
Только за 2021 год Tesla трижды была вынуждена отзывать крупные партии своих машин из-за многочисленных жалоб владельцев электрокаров с функцией автопилота. Часть пользователей жаловалась на то, что «свежие» электрокары Model 3 и Model Y могут неожиданно затормозить посреди дороги, тем самым создав аварийную обстановку. Подобные жалобы звучали настолько часто, что регулирующим органам США пришлось взять эту ситуацию на особый контроль, из-за чего Tesla была вынуждена отозвать около 416 тысяч электрокаров с местного рынка.
Еще одна отзывная кампания Tesla затронула более 53 тысяч автомобилей из-за противоположной ошибки автопилота: электрокары продолжали движение на скорости 9 км/ч, когда должны были остановиться. В ближайших планах бренда также отозвать 579 тысяч единиц ТС из-за функции Boombox, которую регулятор назвал «потенциально опасной для пешеходов». Стоит отметить, что ПО с функцией автопилота Full Self-Driving сегодня установлено на седаны Model S и внедорожники Model X с 2016 по 2022 годы выпуска, седаны Model 3, выпущенные в 2017-2022 годах, и внедорожники Model Y выпуска 2020-2022 годов.
«Фантомное торможение»
Именно так окрестили выявленную способность Tesla к самопроизвольным остановкам. Причем данная проблема не нова, хоть раз с ней сталкивался практически каждый владелец дорогого электрокара от Илона Маска. Штука в том, что искусственный интеллект воспринимает незначительные препятствия вроде мусора на дороге как источник потенциальной угрозы и активирует тормоза. Тот же эффект наблюдался при обнаружении им встречного автомобиля, едущего в своей полосе.
Точной статистики такого поведения электрокаров нет, но если судить по негативным отзывам в социальных сетях, «фантомные торможения» происходили не чаще одного раза на несколько десятков тысяч миль. Любопытно другое – за семь лет активной эксплуатации на дорогах общего пользования подобное поведение ИИ в электрокарах Tesla еще ни разу не привело к аварии.
Ситуация радикально поменялась после того, как инженеры Tesla окончательно отказались от использования радаров в качестве основных «органов чувств» для автопилота. С мая 2021 года все новые электромобили бренда стали оценивать окружающую обстановку с помощью… зрения. Как заявил производитель, технология Tesla Vision способна обеспечивать тот же уровень безопасности, что и радар. При этом лидаров (лазерных радаров) – в настоящее время самых надежных и дорогих органов чувств для ИИ – в серийном производстве электрокаров не было никогда.
Результат использования новой технологии оказался противоречивым. С одной стороны, в работе нейросетей, получающих информацию только из одного типа источников, наметился явный прогресс. Их стало проще усовершенствовать, а последние июльские обновления научили автопилот лучше ориентироваться в условиях ограниченной видимости на дороге, а также понимать сигналы поворота других машин. Но от досадных и частых ошибок в работе устройств это не избавило – чего стоит только история с Луной, которую машинное зрение Tesla принимало за желтый сигнал светофора.
К концу прошлого года ситуация значительно ухудшилась, сообщения о «фантомном торможении» стали появляться чаще. Портал Electrek опубликовал об инцидентах собственный отчет на основе множества записей в открытых источниках, но его почти никто не заметил. Внимание государственных органов США привлекла публикация в другом печатном источнике, The Washington Post, где журналисты намеренно сгустили краски, представив электрокары Tesla эдакими самоходными бомбами замедленного действия.
При этом журналисты не забыли об этике и подкрепили свой материал реальной статистикой. Так, с мая 2021-го по январь 2022-го удалось зафиксировать 135 сообщений о «фантомных торможениях» (все на Model 3 и Y 2019-2022 модельных годов), 107 из которых произошли за последние три месяца. Причем всего в США за прошлые два года было продано чуть менее 600.000 электрокаров Tesla. Компания не дает разбивки по моделям в регионах, но печатные источники оценивают долю Model 3 и Model Y в 93% общего числа отгрузок. По этой причине Национальное управление безопасностью движения на трассах США (NHTSA) инициировало полномасштабное расследование.
Любопытно, что разработчики Tesla в неожиданном торможении своих авто проблемы не видят, считая, что система автопилота всего лишь помогает водителям удерживать движение в пределах дорожной полосы.
Что говорит регулятор
На днях NHTSA обнародовало первые комментарии по поводу проводимого разбирательства. Оказалось, что ведомство располагает иной статистикой и зафиксировало 354 жалобы на «фантомные торможения». При этом Tesla всячески сотрудничает с управлением, оказывая полную поддержку расследованию и предоставляя все необходимые данные. Пока ни о каких требованиях о запуске отзывной кампании или о каких-либо запретах на эксплуатацию электрокаров данного бренда речи не идет.
На первый взгляд в стане Илона Маска формально все гладко, но не все так просто. Важно понимать, что любой адепт прогресса рано или поздно начинает расплачиваться за свои инновации. В данном случае речь идет о массовом внедрении в машины «автопилота». Это делается в том числе и для того, чтобы сохранять бодрый темп развития и по-прежнему опережать конкурентов Tesla. При этом автопилот марки уже сейчас намного превосходит обычные интеллектуальные помощники водителя (ADAS), применяемые другими производителями.
Сегодня Autopilot и Full Self-Driving номинально являются просто наборами технологий, аналогичных «общепринятым» ассистентам в обычных машинах. В их числе и функция удержания в полосе, и адаптивный круиз-контроль, и автоматический парковщик, которые у Tesla значительно отличаются от общепринятых аналогов. Так, круиз-контроль в электрокаре способен самостоятельно перестраивать его между рядами, а также не просто вести по дороге, но в соответствии с проложенным по карте маршрутом.
Если изучать тематические видео о способностях активного функционала Tesla, можно увидеть немало ситуаций, с которыми не смог бы без потерь справиться любой другой ADAS или даже опытный водитель. Иными словами, созданные Tesla технологии только маскируются под помощников, а на деле представляют собой полноценный автопилот третьего уровня. И несмотря на все прописанные в инструкциях ограничения, иные пользователи знают и нагло пользуются этим, сажая за руль собак или играя в видеоигры, хотя законодательной базы, регулирующей подобные инновации и поведение владельцев, пока нет.
При этом регуляторы неоднократно пытались повлиять на пустившегося в «технологический угар» автопроизводителя. Tesla уже много раз становилась объектом расследований в разных странах. Возможно, прецедент с «фантомным торможением» станет поводом, который ограничит развитие ИИ, управляющего транспортным средством, ведь эта его неадекватная реакция на окружающую обстановку выглядит системной ошибкой, не связанной с отдельными подпрограммами электрокара.
Беда именно в Tesla Vision, нейросети которого будто перетренировали, поэтому теперь они дают слишком много ложноположительных результатов. Еще одним подтверждением служит тот факт, что количество сообщений о «фантомных торможениях» резко выросло после очередного обновления ПО электромобилей в начале прошлой осени. И стало снижаться в течение последующих месяцев, когда компания выпустила несколько сопроводительных патчей.
Все свидетельства о феномене «фантомных торможений» выглядят очень по-разному, какой-то единый принцип вычленить из них производителю пока не удается. Одни утверждают, что электрокар затормозил перед пролетающим впереди пакетом, другие описывают срабатывание тормозной системы на совершенно пустой дороге. Иные пользователи сообщают, что порой машина постоянно подтормаживает на протяжении всей поездки по трассе, некоторые описывают единичные срабатывания на глухих проселках.
Исход сложившейся ситуации пока не ясен, подробной статистики ни одна из сторон не опубликовала. А для определения серьезности проблемы нужно как минимум знать, при каких условиях и как часто «фантомные торможения» вызывают полную остановку (как функция экстренного торможения). В настоящее время точно известны лишь три факта: ни одной аварии из-за описанного феномена пока не произошло; неадекватное поведение ИИ в электрокарах Tesla присутствует, но проявляется с нерегулярной частотой; расследование по этому поводу идет, но к каким-то результатам придет не скоро.
***
Вместо вывода приведем еще немного статистических данных, на этот раз с рынка Китая. Так, местные власти ограничили использование электрокаров Tesla военными сотрудниками основных госпредприятий, поскольку Пекин считает эти машины потенциальной угрозой для национальной безопасности КНР из-за установленных в них видеокамер.
Кроме того, из-за проблем с автопилотом, который слишком легко активируется во время движения, власти Китая вынудили бренд отозвать с рынка 211.256 седанов Model 3, в том числе 35.665 Model 3, ввезенных в страну, а также 38.599 кроссоверов Model Y, то есть почти весь тираж, который Tesla выпустила и продала в КНР за 2019 год. В результате специального расследования китайские органы управления признали американскую продукцию потенциально опасной и способной привести к автокатастрофам. А как считаете вы?
