Управление взглядом в играх

Eye tracking (айтрекинг, трекинг глаз, отслеживание глаз) – одна из тех технологий, о которой мечтали футурологи 70-х, и которая сегодня стала доступна всем и каждому. Рассказываю, как эта штуковина работает, сколько стоит и чем она полезна в играх.

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Айтрекеры нашли своё практическое применение и пришли на потребительский рынок совсем недавно. Спасибо за это стоит сказать жадным до высоких CTR рекламщикам, которые использовали первые коммерческие айтрекеры для определения оптимальных форматов рекламных объявлений на веб-сайтах. Работало это всё как привычная многим тепловая карта кликов Яндекс Метрики, только вместо кликов в карту записывались точки внимания взгляда клиента.

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Со временем для айтрекеров нашлись более достойные области практического применения. Технология ожидаемо оказалась крайне полезна в UX-дизайне (юзабилити интерфейсов) сайтов и приложений. Периодически предпринимаются попытки интегрировать айтрекеры в автомобили, чтобы предупреждать зазевавшегося водителя о потере контроля за дорожной обстановкой. Наконец, технологии отслеживания взгляда позволяют полностью парализованным людям реализовываться творчески и общаться, посредствам компьютерных программ.

Всё это, безусловно, очень здорово, но блог у меня игровой, поэтому дальше речь пойдёт про специфику применения айтрекеров в играх. Для начала разберёмся, как они вообще работают, а потом поговорим о целесообразности приобретения таких устройств и о потенциале их развития в области индустрии игр.



Смотри мне в глаза!


Все современные айтрекеры (их не так уж и много) работают по одному

принципу. Встроенная в устройство инфракрасная лампочка отражается на роговице глаза пользователя, в то время как камеры айтрекера производят видеозапись. Полученное изображение обрабатывается специальным алгоритмом, учитывающим расположение блика относительно зрачка (благо, что зрачок контрастирует с радужной оболочкой и легко отслеживается) и вектор его движения, который легко вычисляется при сравнении последовательности кадров. Наличие именно двух видеокамер расположенных на приличном друг от друга расстоянии обуславливается необходимостью измерения расстояния до глаз пользователя (чем острее угол – тем дальше игрок).

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Разумеется, на деле всё гораздо сложнее и тонкостей великое множество. Чтобы определять место глаза пользователя в пространстве и производить дальнейшие расчёты максимально точно, айтрекер строит 3D-модель глаза (чем обуславливается неслабая нагрузка на систему). Кроме того, устройство должно одинаково точно работать при различных условиях освещения и учитывать особенности строения глаз представителей различных этносов. Так например, зрачки азиатов плохо контрастируют с их тёмной радужной оболочкой, поэтому айтрекер подсвечивает зрачки с помощью эффекта красных глаз, располагая инфракрасный свет на оптической оси зрачка. Получается обратный контраст – светлые зрачки и тёмная радужка. Таким же образом устройство действует и при недостатке освещения.

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Самые первые айтрекеры требовали от пользователя строгой фиксации головы, иначе устройство просто теряло из виду глаза движущегося пользователя. Выглядели такие штуки весьма пугающе, напоминая какие-то жуткие пыточные аппараты. К счастью, современные приборы научились отслеживать траекторию движения глаз даже у не самого усидчивого пользователя, что и стало ключевым условиям для их прихода на рынок электронных развлечений.



Во что поиграть?


Стоит сразу прояснить, что в играх айтрекер никак не может тягаться с традиционными клаво-мышами и геймпадами в универсальности – никакого plug and play тут не предусмотрено. Tobii 4C – единственный айтрекер, который позиционирует себя как решение для геймеров, и тот настраивается инженерами компании в ручном режиме под каждую конкретную игру. При этом, функционал устройства радикально разнится от игры к игре и ни в коем случае не перекрывает возможности привычных средств ввода, а лишь немного расширяет их.


Несмотря на трудности в интеграции технологии список поддерживаемых игр довольно велик – 135 тайтлов

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Очень часто система управления в современных играх оказывается перегруженной или недостаточно гибкой, и чем сложнее в игре стандартное управление – тем больше пользы будет от айтрекера. Те, кто играл в космосим Elite: Dangerous знают, насколько неудобно там крутить головой во время боя и таким образом оценивать тактическую обстановку. Слишком комплексная система управления кораблём не оставляет свободных пальцев под обзор. Тут-то и приходит на помощь айтрекер.


Айтрекинг в Elite: Dangerous

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Чуть менее необходимые, но, однозначно, полезные функции айтрекер может выполнять и в играх попроще. По сути, у игрока появляется ещё один способ взаимодействия с миром игры, который ещё и не требует свободных конечностей. Например, пропадает необходимость каждый раз мучать мышку и двигать всё тело своего персонажа, чтобы выполнить простейшие действия (типа выбора каких-то интерактивных объектов), что, однозначно, идёт в плюс для погружения.


Айтрекинг в Deus Ex: Mankind Divided

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Безусловно, айтрекер – это никакой не мастхев. Устройство стоит рассматривать к приобретению только тем, кто действительно испытывает в нём необходимость (например, хардкорным игрокам в космо или авиасимы). Разнообразить свой игровой опыт в классических играх – это тоже заманчивая перспектива, но тут уже нужно сверять свои возможности и потребности. В России Tobii 4C стоит 11 500 рублей, что, вроде как, и не гигантская сумма, но и не маленькая, учитывая довольно узкую область применения устройства.


Нельзя не упомянуть ещё и то, что Tobii 4C официально поддерживается десятой виндой, что позволяет набирать текст, переключать окна, скролить и совершать прочие привычные действия взглядом

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Будущее всё ещё впереди


На данный момент сфера применения айтрекера в играх ограничивается исключительно облегчением использования управления и аккуратным расширением его возможностей, но технологии есть куда развиваться.


Некоторые аналитики (хотя их впору назвать футурологами) мечтают об интеграции технологий айтрекинга в виртуальную реальность, когда игрок сможет максимально вжиться в шкуру протагониста и взаимодействовать с NPC уже не просто от первого лица, а, по сути, на личном уровне – смотря ему прямо в глаза. А если ещё и заправить всё это онлайном, то мы получим совершенно ультимативную платформу для живых виртуальных миров. Здесь уместно будет вспомнить Ready Player One или эпизод USS Callister из последнего сезона Чёрного зеркала.

Управление взглядом в играх Игры, Компьютерные игры, Технологии, Новые технологии, Компьютерное железо, Высокие технологии, Видео, Гифка, Длиннопост

Другой вектор развития технологии менее оторван от реальности и подразумевает применение айтрекинга в качестве средства решения задач оптимизации графики. В погоне за высоким FPS разработчики идут на множество ухищрений, в том числе выключают рендеринг объектов, находящихся за пределами поля зрения игрока. Айтрекинг позволит радикально развить эти идеи, максимально увеличив детализацию именно в центре взгляда игрока (который составляет всего 8% от общего поля зрения) и постепенно снижать детализацию вместе с расфокусировкой нашего зрения. В результате можно получить многократное увеличение детализации графики в играх, одновременно со снижением их прожорливости до системных ресурсов.


***


Тема айтрекинга невероятно обширная, а я осветил её лишь в общих чертах. Зато у вас теперь есть все вводные для продолжения изысканий в самостоятельном режиме.


Другие мои материалы про технологии в игровой индустрии:

Игры будущего глазами NVIDIA

Как в играх делают фейковые интерьеры

Subor Z+: китайская альтернатива PS4

Лига Геймеров

44.2K постов88.8K подписчика

Добавить пост

Правила сообщества

Ничто не истинно, все дозволено, кроме политоты, за нее пермач, идите на ютуб
Помни!
- Новостные/информационные публикации постим в pikabu GAMES
- Развлекательный контент в Лигу Геймеров



Нельзя:

Попрошайничать;

Рекламировать;

Оскорблять участников сообщества;

Нельзя оценивать Toki Tori ниже чем на 10 баллов из 10;

Выкладывать ваши кулвидосы с только что зареганных акков - пермач

24
Автор поста оценил этот комментарий

дайте два

Иллюстрация к комментарию
21
Автор поста оценил этот комментарий
Другой вектор развития технологии менее оторван от реальности и подразумевает применение айтрекинга в качестве средства решения задач оптимизации графики. В погоне за высоким FPS разработчики идут на множество ухищрений, в том числе выключают рендеринг объектов, находящихся за пределами поля зрения игрока. Айтрекинг позволит радикально развить эти идеи, максимально увеличив детализацию именно в центре взгляда игрока (который составляет всего 8% от общего поля зрения) и постепенно снижать детализацию вместе с расфокусировкой нашего зрения. В результате можно получить многократное увеличение детализации графики в играх, одновременно со снижением их прожорливости до системных ресурсов.

В итоге "графика" будет только для одного человека. Смотришь стрим - весь экран размытый кроме точки, куда смотрит игрок.

раскрыть ветку
17
Автор поста оценил этот комментарий
Зеркалки кенона лет тридцать назад фокусировались по взгляду фотографа, но от фичи отказались. Скорее всего, потому, что на всех фотках фокус оказывался не на глазах, а на сиськах модели.
раскрыть ветку
32
Автор поста оценил этот комментарий

Давненько уже читал про эту технологию, действительно сфер применения миллион.. Из полезного - здравоохранение и наука. Касаемо игр, помню смотрел видео, как в CS:go в патруле ищут читеров, мол смотрел он на цель через курсор прицела, или заранее видел силуэт через стену. Интересно, насколько безопасно подобное устройство для зрения и нервной системы?

раскрыть ветку
5
Автор поста оценил этот комментарий

Я работаю в Tobii как раз по теме интеграции в игры. Если есть вопросы - задавайте.

Сразу скажу, что кружок который можно видеть на видео НЕ ВИДЕН самому игроку при игре.


=== Управление играми

Айтрекер - это не замена мышке, клавиатуре или геймпэду, а дополнение к ним.

Основные фичи которые дает технология в играх:

- Extended view – поворот экрана,  возможность оглянуться не меняя направление прицела. Отслеживается как взгляд, так и поворот головы, если нужно повернуть камеру на больший угол, чтобы осмотреться.

- Enemy Tagging – отмечание врагов в бинокле просто взглядом, а не прицелом..

- Object selection – выбор объектов взглядом. Когда смотришь на них они подсвечиваются. При нажатии клавиши активируются или забираются в инвентарь. Гораздо проще собирать предметы из большого шкафа не водя мышку.

- Aim at Gaze – при нажатии кнопки прицеливания камера поворачивает и центрируется на том месте куда вы смотрели.

- Dynamic Light Adaptation – экспозиция/освещение подстраивается в зависимости от того смотришь на темные или светлые участки (внутри дома – на улицу через окно).

- Radial menu - нажимаешь кнопку, открывается радиальное меню, смотришь на нужный сектор, он подсвечивается, отпускаешь кнопку, он активируется.

- NPC reaction - реакция NPC на взгляд

- Clean UI - элементы интерфейся становятся полупрозрачными когда на них не смотришь.


Список поддерживаемых мгр постоянно растет. Там почти все игра от Ubisoft, много от Square Enix и других студий и паблишеров. Полный список на https://tobiigaming.com/games/


Фичи в Assassin's Creed Origins:

https://www.youtube.com/watch?v=ZSoDSiI0mZw


Shadow of the Tomb Raider:

https://www.youtube.com/watch?v=ZHUsgggJVYw


А вот например мод для GTA V где можно наводить ракеты глазами:

https://www.youtube.com/watch?v=23rPOdg_mH8


=== Стриминг

Еще можно в целях аналитики стримить или записывать видео с тем куда смотришь когда играешь, потом анализировать. Дает понять каких врагов не заметил, когда не посмотрел на радар и тд. При стриминге на твич звители могут сами включать/выключать или настраивать вид "кружочка".

https://tobiigaming.com/software/ghost/


=== VR/AR

Айтрекеры (от Tobii и не только от нас) - это неотъемлимая часть всех VR/AR шлемов нового поколения. В VR айтрекинг не используется для поворота камеры (впрочем и на десктопе это лишь одна небольшая фича). Это необходимо для более удобной навигации, социального общения (зрительных контактов аватаров, реации npc на взгляд) и foveated rendering.

Среди коммерческих решений на рынке айтрекинг уже есть в AR очках Magic Leap и в референсном дизайне от Qualcomm (читай почти во всех гарнитурах на его основе).

https://www.youtube.com/watch?v=CBBdOFZPoIw

https://www.youtube.com/watch?v=AKDl1A7UJXY

раскрыть ветку