О мультимодальном достижении неоднозначного поэтапного действия в виртуальной реальности

Перевод: Мария Ерофеева

Вступление

Этот пост будет первым из многих первичных методологических размышлений об исследовании феноменов, связанных с VR. Большая часть используемой терминологии заимствована из ключевых микросоциологических работ. Для обзора см. Suchman (1987) и Goodwin (2017), а также Sacks (1995).

Все посты носят предварительный и спекулятивный характер. Мне кажется, что такой формат будет полезен людям, которые хотят присоединиться к разговору о микросоциологии в виртуальной реальности (и, возможно, направить его в другое русло).

Развернуть

Жестикуляционная Работа в ‘Arizona Sunshine’

Одной из моих недавних вылазок в виртуальную реальность была кооперативная многопользовательская игра ‘Arizona Sunshine’. Это VR-игра, в которой вы передвигаетесь в пост-апокалиптическом зомби мире в поисках снаряжения и выживших. Большая часть игры состоит в том, чтобы обыскивать шкафы, багажники автомобилей и заброшенные (если повезет!) здания, где вы находите оружие, боеприпасы и аптечки. Естественно, по мере продвижения вам также приходится стрелять зомби в голову.

Поскольку это игра в виртуальной реальности, на игроках надеты очки виртуальной реальности (в нашем случае Vive Pro). Система Vive точно отслеживает расположение очков в 3D-пространстве (если я двигаю головой в физическом пространстве, точно такое же движение происходит в виртуальной реальности, с соответствующим изменением перспективы). Кроме того, она отслеживает расположение двух контроллеров (по одному в каждой руке), которые служат основными механизмами управления для большинства игр в виртуальной реальности. В отдельном посте я расскажу о специфике VR системы в нашей лаборатории.

В этой игре ко мне присоединился безымянный второй игрок из Соединенных Штатов. По всей видимости, он намного лучше меня разбирался в механике игрового процесса, поэтому он выступил в роли своего рода гида, который указывал мне на различные предметы и инструктировал меня в выполнении определенных действий. Не единожды он спас меня от участи быть съеденным зомби, однако я отвлекаюсь.

Во всех наших взаимодействиях нам обоим приходилось использовать подручные ресурсы, созданные благодаря уникальному сочетанию технологических аффордансов и конвенций. Прежде чем продемонстрировать это с помощью центрального примера данного поста, обсудим специфические для этого взаимодействия технологические ограничения / возможности:


Рисунок 1. Перспектива от первого лица. Крупные объекты с обеих сторон  –  это виртуальные орудия в моих руках.

Как видно на скриншоте выше, оба персонажа (как правило) держат оружие в обеих руках. Вы можете поднимать вещи с оружием в руке, но сами пушки находятся в руках все время. Оружием можно указывать в любом направлении, а также использовать его для выполнения довольно сложной жестикуляционной работы. Еще одним взаимовидимым элементом в игре является наклон головы. Несмотря на то, что глаза не отслеживаются в этой игре, положение головы отслеживается очками VR. Еще одна особенность: хотя игра позволяет игрокам общаться вербально, микрофон второго игрока был отключен. Это обстоятельство вызвало необходимость «обходиться» исключительно за счет использования невербальных ресурсов.

По вышеуказанным причинам взаимодействие между мной и другим игроком по большей части происходило с помощью движений головы и рук, со специфическим ограничением: в большинстве случаев обе руки были заняты оружием. Учитывая эти ограничения, можно было бы предположить, что мы взаимодействовали очень мало. Однако на самом деле этих ресурсов было более чем достаточно, чтобы обеспечить основу для процедурно создаваемых ad hoc конвенций:

Голова

Координированное кивание использовалось для взаимной демонстрации согласия или понимания. При необходимости выражение согласия дополнялось движениями рук. Положение головы использовалось для поддержания взаимного внимания к определенной области игрового мира или координации перехода от одной области к другой. Обмен взглядами мог создавать временный фрейм участия (participation framework) или нарушать его видимым отвлечением («потерей фокуса») со стороны любого участника.

Руки-пушки

По сравнению с физическим миром, Arizona Sunshine не отслеживает движения пальцев – контроллеры по сути являются однонаправленными прямыми палками и так и отслеживаются в VR. Это ограничение приводит к сужению репертуара жестов до линейного указания: пушки могут быть ориентированы в любом направлении в 3D-пространстве и перемещаются в нем без ограничений. Таким образом, невозможно было показать «большой палец вверх» или «средний палец» с помощью обычного движения пальцами. Это, однако, не означает, что жесты не могут быть разработаны. В конце концов, темпорально-историческое движение палок в пространстве, скоординированное и наблюдаемое in situ, допускает довольно сложную последовательность действий (наглядным примером является работа дирижера; заметка для себя: посмотреть исследования конвенций в чирлидинге).

Можно было прочертить дугу между текущим фокусом головы и намеченной целью. «Палками» можно было махать, они могли отслеживать движение, и их можно было использовать для выражения согласия или несогласия. В нашей игре была разработана любопытная конвенция для жеста одобрения: в определенные моменты мне нужно было выразить что-то вроде одобрительного восклицания или «да!» или «есть!», поэтому я использовал быстрое движение обеих рук вверх-вниз (чередуя руки или совершая жест обеими руками одновременно):

Аналогичным образом, несогласие или «нет» (фактическое использование жеста не было, разумеется, предопределено конвенцией) могло быть достигнуто путем скрещивания рук или синхронного махания оружием вправо-влево. В какой-то момент (к сожалению, его не получилось записать), другой игрок «спросил мое мнение», взяв две маски (по одной в каждой руке) и совершив движение «взвешивания», что позволило мне указать на маску, которая мне больше нравится.

Все вышесказанное можно было бы проинтерпретировать как сценарии, в которых взаимодействие было как-то ограничено. Я не уверен, что это продуктивный способ посмотреть на это: мы же не рассматриваем физическое взаимодействие как «взаимодействие в условиях, когда у нас нет четырех рук». Мы координируем действия с помощью того, что находится в пределах нашей досягаемости. Если один ресурс недоступен, возможно есть другие, которые могут выполнять аналогичную работу. Или, может быть, сама природа интерактивной работы может быть адаптирована к ресурсам в наличии.

Интересным примером последнего является использование пушек для действия-на-расстоянии: как я уже упоминал, у другого игрока не было микрофона. В сочетании с тем фактом, что мы часто находились в нескольких десятках игровых метров друг от друга, мы столкнулись с трудностью привлечь внимание другого игрока. Эта проблема была решена с помощью выстрела другому игроку в голову. В результате выстрела экран становился красным (в дополнение к соответствующему звуку), что позволяло перемещать внимание другого игрока, не приближаясь к нему.

Эта телекоммуникационная конвенция оказалась особенно полезной для выполнения «квеста» в игре. На определенных этапах игры элементы, необходимые для решения квеста, должны были быть найдены в конкретных местах (как видно на следующем видео, ключ находился в автомобиле). В связи с этим способность «призвать» другого игрока (вместо того чтобы вести его за собой, шаг за шагом) в конкретное место пришлась очень кстати. Выстрелы в голову явились средством достижения этого. Словом, здесь мы видим конвенцию, которая творчески использует игровую механику, изначально разработанную для других целей.

Инструкции по преодолению неоднозначности

Возможно, наиболее интересный случай сложного ко-оперативного действия запечатлен на следующем видео. Первая часть записи показывает «коммуникацию на расстоянии с помощью оружия», однако самое интересное начинается после.

Несколько пояснений: в Arizona Sunshine вы можете носить маски, которые вы находите повсюду в игровом мире. Чтобы надеть маску, игрок должен взять ее и поднести к своему лицу (подражая тому, как надевается настоящая маска). Если маска достаточно близко к лицу, когда вы ее отпускаете, она автоматически надевается. Ранее в игре я нашел (и надел) маску без проблем. Когда мы вошли в дом, другой игрок сменил маску, отбросив старую маску на пол. Забыв, что у меня уже надета маска, я решил надеть маску, которую выбросил другой игрок. Однако это нельзя сделать с помощью того же набора движений. Чтобы надеть новую маску, я должен был сначала снять предыдущую: «схватить» себя за лицо, оттянуть старую маску, отбросить ее, и только затем приложить к лицу новую маску.

На видео другой игрок помогает мне понять, как надеть новую маску. Основная сложность состоит в том, что он не может просто показать мне последовательность необходимых действий, поскольку она похожа на процесс надевания маски в первый раз. Чтобы устранить неоднозначность между «так ты надеваешь маску» и «сними старую маску, а затем надень новую маску», необходимо выполнить много работы, особенно если учесть, что другой игрок видел мою старую маску, а я о ней забыл.

Одна эта последовательность требует гораздо более пристального внимания к точной последовательности жестов, кивков, использованию реквизита и манипуляциям непрерывно изменяющегося публичного субстрата. Этот термин требует некоторого пояснения. Я настоятельно рекомендую полностью прочитать первую главу из книги Гудвина (Goodwin 2017), но вот ее основной аргумент:

«Этот процесс создания чего-то нового путем декомпозиции и повторного использования с преобразованием ресурсов, оставленных в публичной среде более ранним актором, – это то, что я исследую как ко-оперативное (co-operative) действие. Как демонстрируют все материалы, которые будут рассмотрены в этой книге, он является повсеместным в организации человеческой деятельности. Способность этого процесса наделить человеческую историю своей уникальной аккумулятивной силой (как нечто постепенно сформированное имеющим последствия прошлым), чтобы она при этом оставалась как контингентной, так и многовариантной, схватывается в наблюдении Мерло-Понти (1962: 88) о том, что «история — это не вечное обновление и не вечное повторение, это неповторимое движение, которое творит неизменные формы и сокрушает их». Для простоты используется термин субстрат для обозначения более раннего высказывания или другого знакового комплекса (решетка игры в классики, например), то есть направленность (focus) подверженных преобразованию операций используется другим актором для создания следующего действия». 

(Goodwin, 2017, p. 3, полужирный шрифт мой)


Я в самом деле сейчас попытался сделать «красивое» описание всей вышеописанной процедуры с масками, но оказалось, что взаимодействие слишком сложное, скоординированное и последовательно разворачивающееся, чтобы вербальное описание могло иметь практический смысл. Для того чтобы понять, что видимо (для участников) осуществлялось в этом взаимодействии, необходим детальный мультимодальный транскрипт, возможно с помощью программы ELAN или чего-то более гудвиновского.

Сейчас я хочу собрать гораздо больше данных (желательно с разными игроками) о том, как создаются, используются и модифицируются подручные ресурсы. Я не уверен, что конкретный набор конвенций (таких как «да!») сформируется в качестве типичных ресурсов для большинства игроков, особенно если рассматривать констелляции, где все игроки могут использовать ресурс вербальной коммуникации. Когда мы соберем больше записей, мы сообщим о наших дальнейших мыслях по этому поводу. На данный момент мне кажется, что мультимодальный анализ Гудвина мог бы стать хорошей теоретической основой для аналитической работы, тем более что его исследования исторически были сфокусированы на изучении «ограниченного» (за неимением лучшего термина) взаимодействия. Было бы интересно узнать, приводят ли специфические виды ограничений взаимодействия к более интенсивной «взаимной жизни в действиях других» и субстратированию.

Ссылки

Goodwin, C. (2018). Co-operative action. Cambridge University Press.
Jefferson, G. (Ed.). (1995). Harvey Sacks: lectures on conversation. Blackwell.
Suchman, L. A. (1987). Plans and situated actions: The problem of human-machine communication. Cambridge university press.

Свернуть

One thought on “О мультимодальном достижении неоднозначного поэтапного действия в виртуальной реальности

Comments are closed.