Google стал тем, чем он является, создав передовую новую технологию и открыв ее для всех. Гигантские компании и частные лица могут использовать ее службы в своих интересах. Тем не менее, прогресс Google в области искусственного интеллекта, похоже, заставил компанию переосмыслить подход «делай, что хочешь». Компания начала удерживать или ограничивать некоторые из своих исследований и услуг в области ИИ, чтобы защитить население от неправомерного использования функций ИИ.
Генеральный директор Google Сундар Пичаи сделал девиз «ИИ в первую очередь» лозунгом компании, но осторожность компании, связанная с мощью ИИ, иногда позволяла их конкурентам лидировать. Google занимает третье место на рынке облачных вычислений после Amazon и Microsoft. В конце прошлого года облачное подразделение Google объявило, что не будет предлагать услуги по распознаванию лиц, которые клиенты могли бы адаптировать для своих собственных нужд из-за опасений по поводу возможного злоупотребления им.
Хотя Amazon и Microsoft недавно призвали к федеральному регулированию автоматического распознавания лиц, оба предлагали технологию в течение многих лет. В число клиентов Amazon входит офис шерифа округа Вашингтон, штат Орегон, где депутаты используют его алгоритмы для проверки подозреваемых по базе данных об уколах.
Еще одно доказательство готовности Google ограничить возможности и коммерческий потенциал своей собственной технологии искусственного интеллекта появилось несколько недель назад. В конце октября компания объявила о специализированной службе распознавания лиц, которая идентифицирует знаменитостей. (Microsoft и Amazon запустили аналогичные сервисы в 2017 году.) Помимо опоздания на рынок, детектор Google знаменитостей имеет жесткие ограничения на то, кто может его использовать.
Трейси Фрей, директор по стратегии облачного подразделения компании, говорит, что медиа и развлекательные компании интересовались услугой. Но Google решил наложить некоторые ограничения на технологию после проверки соответствия принципам этики, которые компания представила в прошлом году. «Мы были обеспокоены тем, сможем ли мы соблюдать эти принципы, если услуга будет более доступной», — говорит Фрей.
Google попросил помощи извне, чтобы обдумать эти проблемы. Компания заказала оценку прав человека для нового продукта от некоммерческой организации BSR, сторонниками которой являются Google, McDonald’s и Walmart.
В отчете BSR содержится предупреждение о том, что распознавание лиц знаменитостей может использоваться навязчиво, например, если оно применяется к кадрам наблюдения, чтобы собирать или транслировать данные о местонахождении человека. Некоммерческая организация рекомендовала, чтобы Google разрешил отдельным знаменитостям отказаться от обслуживания, а также чтобы он проверял потенциальных клиентов.
Google принял эти предложения. Компания заявляет, что ограничила свой список знаменитостей только тысячами имен, чтобы минимизировать риск злоупотреблений; Amazon и Microsoft заявили, что их собственные сервисы распознают сотни тысяч общественных деятелей. Google не раскрывает информацию о том, кто находится в списке, но предоставил веб-форму любому, кто хочет попросить удалить свое лицо из списка наблюдения компании. Amazon уже позволяет знаменитостям отказаться от собственной службы распознавания знаменитостей, но заявляется, что пока никто этого не сделал.
Потенциальные пользователи службы Google должны пройти проверку, чтобы подтвердить, что они являются «признанной медиа или развлекательной компанией или партнером», которая будет применять эту технологию «только к профессионально произведенному видеоконтенту, такому как фильмы, телешоу и спортивные мероприятия».
На вопрос, означает ли это, что мелкие производители, такие как авторы популярных каналов YouTube, не будут допущены к службе, Фрей отвечает, что нет. Такие клиенты будут рассматриваться как и любые другие, если они действительно работают с контентом знаменитостей. По ее словам, некоторые компании уже прошли проверку Google и пользуются этой службой, хотя компания не раскрывает их имен.
Google начал публично бороться с напряжением между обещанием и потенциальными недостатками ИИ в прошлом году, отчасти потому, что он был вынужден. Соучредитель Сергей Брин удивился письму открытого инвестора, что недавний прогресс в области ИИ был «самым значительным событием в области вычислительной техники в моей жизни», но также предупредил, что «такие мощные инструменты также несут с собой новые вопросы и обязанности». Письмо было опубликовано всего за несколько дней до протеста против участия Google в проекте ИИ Пентагона под названием Maven. Компания заявила, что не будет продлевать контракт. Он также опубликовал этические принципы ИИ, которые, по его словам, будут запрещать подобные проекты в будущем, хотя они по-прежнему разрешают некоторые работы в области обороны.
Источник: Портал 13