Осязаемый пользовательский интерфейс ( TUI ) — это пользовательский интерфейс , в котором человек взаимодействует с цифровой информацией через физическую среду . Первоначальное название было Graspable User Interface, которое больше не используется. Целью разработки TUI является расширение возможностей совместной работы, обучения и проектирования путем придания физической формы цифровой информации, тем самым используя человеческую способность хватать и манипулировать физическими объектами и материалами. [1]
Это было впервые задумано Радией Перлман как новый язык программирования, который будет обучать гораздо более маленьких детей, подобно Logo, но с использованием специальных «клавиатур» и устройств ввода. Другим пионером в области осязаемых пользовательских интерфейсов является Хироши Ишии , профессор Массачусетского технологического института , который возглавляет группу осязаемых медиа в лаборатории MIT Media Lab . Его особое видение осязаемых пользовательских интерфейсов, называемых осязаемыми битами , заключается в том, чтобы придать физическую форму цифровой информации, сделав биты непосредственно манипулируемыми и воспринимаемыми. Осязаемые биты преследуют цельную связь между физическими объектами и виртуальными данными.
Существует несколько фреймворков, описывающих ключевые характеристики осязаемых пользовательских интерфейсов. Брайгг Ульмер и Хироши Ишии описывают шесть характеристик, касающихся представления и управления: [2]
Ева Хорнекер и Якоб Буур описывают структурированную структуру с четырьмя темами: [3]
По мнению Ми Чжон Ким и Мэри Лу Махер, пять основных определяющих свойств осязаемых пользовательских интерфейсов следующие: [4]
Осязаемый пользовательский интерфейс должен отличаться от графического пользовательского интерфейса (GUI). GUI существует только в цифровом мире, тогда как TUI соединяет цифровой мир с физическим. Например, экран отображает цифровую информацию, тогда как мышь позволяет нам напрямую взаимодействовать с этой цифровой информацией. [5] Осязаемый пользовательский интерфейс представляет ввод непосредственно в физическом мире и делает цифровую информацию непосредственно воспринимаемой. [6]
Осязаемый пользовательский интерфейс обычно создается для одной конкретной целевой группы из-за небольшого диапазона возможных областей применения. Поэтому дизайн интерфейса должен разрабатываться совместно с целевой группой, чтобы обеспечить хороший пользовательский опыт. [7]
По сравнению с TUI, GUI имеет широкий спектр использования в одном интерфейсе. Благодаря этому он нацелен на большую группу возможных пользователей. [7]
Одним из преимуществ TUI является пользовательский опыт, поскольку он происходит в физическом взаимодействии между пользователем и самим интерфейсом (например, SandScape: создание собственного ландшафта из песка). Другим преимуществом является удобство использования, поскольку пользователь интуитивно знает, как использовать интерфейс, зная функцию физического объекта. Таким образом, пользователю не нужно изучать функциональность. Вот почему интерфейс Tangible User часто используется, чтобы сделать технологии более доступными для пожилых людей. [6]
[7]
Простым примером осязаемого пользовательского интерфейса является компьютерная мышь: перетаскивание мыши по плоской поверхности перемещает указатель на экране соответствующим образом. Существует очень четкая связь между поведением, демонстрируемым системой, и движениями мыши. Другие примеры включают:
Было сделано несколько подходов для создания общего промежуточного программного обеспечения для TUI. Они нацелены на независимость доменов приложений, а также гибкость с точки зрения развернутой сенсорной технологии. Например, Siftables предоставляет платформу приложений, в которой небольшие дисплеи, чувствительные к жестам, действуют совместно, образуя интерфейс человек-компьютер.
Для поддержки совместной работы TUI должны разрешать пространственное распределение, асинхронные действия и динамическую модификацию инфраструктуры TUI, если назвать наиболее важные из них. Этот подход представляет собой фреймворк, основанный на концепции пространства кортежей LINDA, для удовлетворения этих требований. Реализованный фреймворк TUIpist развертывает произвольную технологию датчиков для любого типа приложения и исполнительных механизмов в распределенных средах. [11]
Интерес к осязаемым пользовательским интерфейсам (TUI) постоянно растет с 1990-х годов, и с каждым годом появляется все больше осязаемых систем. В техническом документе 2017 года описывается эволюция TUI для сенсорных столов и открываются новые возможности для экспериментов и разработок. [12]
В 1999 году Гари Залевски запатентовал систему подвижных детских блоков, содержащих датчики и дисплеи для обучения правописанию и составлению предложений. [13]
Tangible Engine — это фирменное авторское приложение, используемое для создания интерфейсов распознавания объектов для проекционно-емкостных сенсорных столов. Tangible Engine Media Creator позволяет пользователям с небольшим или нулевым опытом кодирования быстро создавать TUI-ориентированные интерфейсы.
Группа Tangible Media MIT, возглавляемая Хироши Иши, постоянно разрабатывает и экспериментирует с TUI, включая множество настольных приложений. [14]
Система Urp [15] и более продвинутая система Augmented Urban Planning Workbench [16] позволяют выполнять цифровое моделирование потоков воздуха, теней, отражений и других данных на основе положений и ориентаций физических моделей зданий на поверхности стола.
Новейшие разработки идут еще дальше и включают третье измерение, позволяя пользователю формировать ландшафты из глины (Illuminating Clay [17] ) или песка (Sand Scape [18] ). Опять же, различные симуляции позволяют анализировать тени, карты высот, уклоны и другие характеристики интерактивно формируемых земельных массивов.
InfrActables — это совместный стол с обратной проекцией, который позволяет взаимодействовать с помощью TUI, включающих распознавание состояний. Добавление различных кнопок к TUI позволяет использовать дополнительные функции, связанные с TUI. Более новые версии технологии можно даже интегрировать в ЖК-дисплеи [19] с помощью инфракрасных датчиков за ЖК-матрицей.
Tangible Disaster [20] позволяет пользователю анализировать меры по ликвидации последствий стихийных бедствий и моделировать различные виды бедствий (пожар, наводнение, цунами и т. д.) и сценарии эвакуации во время сеансов совместного планирования. Физические объекты позволяют позиционировать бедствия, размещая их на интерактивной карте и дополнительно настраивая параметры (например, масштаб) с помощью прикрепленных к ним циферблатов.
Недавно был выявлен коммерческий потенциал TUI. Неоднократно награждаемый Reactable [21] , интерактивный осязаемый настольный инструмент, теперь распространяется на коммерческой основе Reactable Systems, дочерней компанией Университета Помпеу Фабра, где он был разработан. С Reactable пользователи могут настраивать свой собственный инструмент интерактивно, физически размещая различные объекты (представляющие собой осцилляторы, фильтры, модуляторы...) и параметризовать их путем вращения и использования сенсорного ввода.
Microsoft распространяет свою новую платформу на базе Windows Microsoft Surface [22] (теперь Microsoft PixelSense) с 2009 года. Помимо отслеживания пальцев с помощью мультитача , платформа поддерживает распознавание физических объектов по их отпечаткам. Было представлено несколько приложений, в основном для использования в коммерческих помещениях. Примеры варьируются от разработки собственного индивидуального графического макета для сноуборда или скейтборда до изучения деталей вина в ресторане путем размещения его на столе и навигации по меню с помощью сенсорного ввода. Также поддерживаются такие взаимодействия, как совместный просмотр фотографий с камеры Handycam или мобильного телефона, которые легко подключаются после размещения на столе.
Еще одна примечательная интерактивная инсталляция — instant city [23] , которая сочетает в себе игровые, музыкальные, архитектурные и совместные аспекты. Она позволяет пользователю строить трехмерные структуры и устанавливать город из прямоугольных строительных блоков, что одновременно приводит к интерактивной сборке музыкальных фрагментов разных композиторов.
Разработка Reactable и последующий выпуск его технологии отслеживания reacTIVision [24] под лицензией GNU/GPL, а также открытые спецификации протокола TUIO дали толчок огромному количеству разработок на основе этой технологии.
За последние несколько лет было начато множество любительских и полупрофессиональных проектов за пределами академических кругов и коммерции. Благодаря технологиям отслеживания с открытым исходным кодом (reacTIVision [24] ) и постоянно растущей вычислительной мощности, доступной конечным потребителям, необходимая инфраструктура теперь доступна практически каждому. Стандартный ПК, веб-камера и некоторые ручные работы позволяют людям создавать осязаемые системы с минимальными программными и материальными усилиями. Это открывает двери новым способам восприятия взаимодействия человека и компьютера и позволяет публике экспериментировать с новыми формами творчества. [ необходима цитата ]
Трудно отслеживать и не замечать быстро растущее число всех этих систем и инструментов, но хотя многие из них, по-видимому, используют только доступные технологии и ограничиваются начальными экспериментами и тестами с некоторыми базовыми идеями или просто воспроизводят существующие системы, некоторые из них раскрываются в новых интерфейсах и взаимодействиях и развертываются в общественном пространстве или встраиваются в художественные инсталляции. [25]
Tangible Factory Planning [26] — это осязаемая таблица на основе reacTIVision [24] , которая позволяет совместно планировать и визуализировать производственные процессы в сочетании с планами новых заводских зданий и была разработана в рамках дипломной работы.
Другим примером множества столешниц на основе reacTIVision является интерактивный стол ImpulsBauhaus [27] , который был выставлен в Университете Баухауса в Веймаре в честь 90-летия основания Баухауса. Посетители могли просматривать и изучать биографии, сложные отношения и социальные сети между членами движения.
Использование принципов, полученных из воплощенного познания , теории когнитивной нагрузки и воплощенного дизайна , показало, что TUI повышают эффективность обучения, предлагая мультимодальную обратную связь. [28] Однако эти преимущества для обучения требуют форм проектирования взаимодействия, которые оставляют как можно больше когнитивных возможностей для обучения.
Физическая иконка , или фикон , является осязаемым вычислительным эквивалентом иконки в традиционном графическом пользовательском интерфейсе, или GUI . Фиконы содержат ссылку на некий цифровой объект и тем самым передают значение. [29] [30] [31]
Физические значки были впервые использованы в качестве осязаемых интерфейсов в проекте metaDesk, созданном в 1997 году исследовательской группой профессора Хироши Ишии по осязаемым битам в Массачусетском технологическом институте . [32] [33] MetaDesk состоял из стола, поверхность которого показывала проецируемое видеоизображение. Размещение фикона на столе запускало датчики, которые изменяли видеопроекцию. [34]