Материальный пользовательский интерфейс ( TUI ) — это пользовательский интерфейс , в котором человек взаимодействует с цифровой информацией через физическую среду . Первоначальное название было Graspable User Interface, которое больше не используется. Цель разработки TUI — расширить возможности сотрудничества, обучения и проектирования путем придания физической формы цифровой информации, тем самым используя преимущества человеческой способности захватывать физические объекты и материалы и манипулировать ими. [1]
Впервые он был задуман Радией Перлман как новый язык программирования, который будет обучать детей гораздо младшего возраста, аналогичный Logo, но с использованием специальных «клавиатур» и устройств ввода. Еще одним пионером в области материальных пользовательских интерфейсов является Хироши Исии , профессор Массачусетского технологического института , возглавляющий группу материальных медиа в Медиа-лаборатории Массачусетского технологического института . Его особое видение материальных пользовательских интерфейсов, называемых Tangible Bits , заключается в том, чтобы придать физическую форму цифровой информации, сделав биты непосредственно манипулируемыми и воспринимаемыми. Материальные биты обеспечивают плавную связь между физическими объектами и виртуальными данными.
По мнению Ми Джонг Кима и Мэри Лу Махер, пять основных определяющих свойств материальных пользовательских интерфейсов заключаются в следующем: [2]
Материальный пользовательский интерфейс следует отличать от графического пользовательского интерфейса (GUI). Графический интерфейс существует только в цифровом мире, тогда как TUI соединяет цифровой мир с физическим. Например, экран отображает цифровую информацию, тогда как мышь позволяет нам напрямую взаимодействовать с этой цифровой информацией. [3] Материальный пользовательский интерфейс представляет входные данные непосредственно в физическом мире и делает цифровую информацию непосредственно доступной для понимания. [4]
Материальный пользовательский интерфейс обычно создается для одной конкретной целевой группы из-за небольшого количества возможных областей применения. Поэтому дизайн интерфейса необходимо разрабатывать вместе с целевой группой, чтобы обеспечить хороший пользовательский опыт. [5]
По сравнению с TUI, GUI имеет широкий спектр использования в одном интерфейсе. По этой причине он ориентирован на большую группу возможных пользователей. [5]
Одним из преимуществ TUI является удобство работы с пользователем, поскольку происходит физическое взаимодействие между пользователем и самим интерфейсом (например: SandScape: создание собственного ландшафта из песка). Еще одним преимуществом является удобство использования, поскольку пользователь интуитивно знает, как использовать интерфейс, зная функцию физического объекта. Таким образом, пользователю не нужно изучать функционал. Вот почему интерфейс материального пользователя часто используется, чтобы сделать технологии более доступными для пожилых людей. [4]
[5]
Простым примером материального пользовательского интерфейса является компьютерная мышь: перетаскивание мыши по плоской поверхности соответствующим образом перемещает указатель на экране. Существует очень четкая связь между поведением системы и движениями мыши. Другие примеры включают в себя:
Было предложено несколько подходов к созданию общего промежуточного программного обеспечения для TUI. Они нацелены на независимость областей применения, а также на гибкость с точки зрения используемой сенсорной технологии. Например, Siftables предоставляет платформу приложений, в которой небольшие чувствительные к жестам дисплеи действуют вместе, образуя интерфейс человек-компьютер.
Для поддержки совместной работы TUI должны обеспечивать пространственное распределение, асинхронные действия и динамическую модификацию инфраструктуры TUI, если назвать наиболее важные из них. Этот подход представляет собой структуру, основанную на концепции пространства кортежей LINDA, отвечающую этим требованиям. Реализованная платформа TUIpist использует технологию произвольных датчиков для любого типа приложений и исполнительных механизмов в распределенных средах. [9]
Интерес к материальным пользовательским интерфейсам (TUI) постоянно растет с 1990-х годов, и с каждым годом появляется все больше материальных систем. В официальном документе 2017 года описывается эволюция TUI для сенсорных столов и открываются новые возможности для экспериментов и разработок. [10]
В 1999 году Гэри Залевски запатентовал систему передвижных детских блоков, содержащих датчики и дисплеи для обучения правописанию и составлению предложений. [11]
Tangible Engine — это собственное авторское приложение, используемое для создания интерфейсов распознавания объектов для проекционно-емкостных сенсорных столов. Tangible Engine Media Creator позволяет пользователям с небольшим опытом программирования или вообще без него быстро создавать интерфейсы на основе TUI.
Группа MIT Tangible Media, возглавляемая Хироши Иши, постоянно разрабатывает и экспериментирует с TUI, включая множество настольных приложений. [12]
Система Urp [13] и более совершенная среда Augmented Urban Planning Workbench [14] позволяют цифровое моделирование воздушных потоков, теней, отражений и других данных на основе положений и ориентации физических моделей зданий на поверхности стола.
Новые разработки идут еще дальше и включают третье измерение, позволяя пользователю формировать ландшафты из глины (Illuminating Clay [15] ) или песка (Sand Scape [16] ). Опять же, различные симуляции позволяют анализировать тени, карты высот, уклоны и другие характеристики интерактивно формируемых массивов суши.
InfrActables — это совместная таблица обратной проекции, которая позволяет взаимодействовать с помощью TUI, включающего распознавание состояний. Добавление различных кнопок в TUI позволяет использовать дополнительные функции, связанные с TUI. Более новые версии технологии можно даже интегрировать в ЖК-дисплеи [17] с помощью инфракрасных датчиков позади ЖК-матрицы.
Программа Tangible Disaster [18] позволяет пользователю анализировать меры стихийного бедствия и моделировать различные виды стихийных бедствий (пожар, наводнение, цунами и т. д.) и сценарии эвакуации во время совместных сеансов планирования. Физические объекты позволяют позиционировать катастрофы, размещая их на интерактивной карте и дополнительно настраивая параметры (т.е. масштаб) с помощью прикрепленных к ним циферблатов.
Коммерческий потенциал TUI был определен недавно. Многократно награжденный Reactable, [19] интерактивный материальный настольный инструмент, теперь коммерчески распространяется Reactable Systems, дочерней компанией Университета Помпеу Фабра, где он был разработан. С помощью Reactable пользователи могут настроить свой собственный инструмент в интерактивном режиме, физически размещая различные объекты (представляющие генераторы, фильтры, модуляторы...) и параметризовать их, вращая и используя сенсорный ввод.
Microsoft распространяет свою новую платформу Microsoft Surface на базе Windows [20] (теперь Microsoft PixelSense) с 2009 года. Помимо мультитач- отслеживания пальцев, платформа поддерживает распознавание физических объектов по их следам. Было представлено несколько приложений, в основном для использования в коммерческих помещениях. Примеры варьируются от разработки собственного индивидуального графического макета для сноуборда или скейтборда до изучения деталей вина в ресторане путем размещения его на столе и навигации по меню с помощью сенсорного ввода. Также поддерживаются такие взаимодействия, как совместный просмотр фотографий с помощью портативной камеры или мобильного телефона, который легко подключается после размещения на столе.
Еще одна примечательная интерактивная инсталляция — Instant City [21] , сочетающая в себе игры, музыку, архитектуру и аспекты сотрудничества. Он позволяет пользователю строить трехмерные конструкции и обустраивать город из прямоугольных строительных блоков, что одновременно приводит к интерактивной сборке музыкальных фрагментов разных композиторов.
Разработка Reactable и последующий выпуск технологии отслеживания reacTIVision [22] под лицензией GNU/GPL, а также открытые спецификации протокола TUIO вызвали огромное количество разработок, основанных на этой технологии.
За последние несколько лет было начато множество любительских и полупрофессиональных проектов за пределами научных кругов и торговли. Благодаря технологиям отслеживания с открытым исходным кодом (reacTIVision [22] ) и постоянно растущей вычислительной мощности, доступной конечным потребителям, необходимая инфраструктура теперь доступна практически каждому. Стандартный компьютер, веб-камера и некоторые ручные работы позволяют людям создавать реальные системы с минимальными затратами на программирование и материальные затраты. Это открывает двери для новых способов восприятия взаимодействия человека и компьютера и позволяет общественности экспериментировать с новыми формами творчества. [ нужна цитата ]
Трудно отследить и не заметить быстро растущее число всех этих систем и инструментов, но, хотя многие из них, кажется, используют только доступные технологии и ограничиваются первоначальными экспериментами и тестами с некоторыми базовыми идеями или просто воспроизводят существующие системы, немногие из них открывают новые интерфейсы и взаимодействия и размещаются в общественных местах или встраиваются в художественные инсталляции. [23]
Планирование материального производства [24] представляет собой осязаемую таблицу на основе reacTIVision [22] , которая позволяет совместно планировать и визуализировать производственные процессы в сочетании с планами новых заводских зданий и была разработана в рамках дипломной работы.
Еще одним примером многих столешниц на основе reacTIVision является интерактивный стол ImpulsBauhaus [25] , который был выставлен на выставке в Университете Баухаус в Веймаре, посвященной 90-летию основания Баухауза. Посетители могли просматривать и изучать биографии, сложные отношения и социальные сети между членами движения.
Было показано , что использование принципов, основанных на воплощенном познании , теории когнитивной нагрузки и воплощенном дизайне , TUI повышает эффективность обучения, предлагая мультимодальную обратную связь. [26] Однако эти преимущества обучения требуют таких форм взаимодействия, которые оставляют как можно больше когнитивных способностей для обучения.
Физический значок , или фикон , — это материальный компьютерный эквивалент значка в традиционном графическом интерфейсе пользователя или GUI . Фиконы содержат ссылку на какой-либо цифровой объект и тем самым передают смысл. [27] [28] [29]
Физические значки были впервые использованы в качестве материальных интерфейсов в проекте MetaDesk, созданном в 1997 году исследовательской группой профессора Хироси Исии в Массачусетском технологическом институте . [30] [31] MetaDesk представлял собой стол, на поверхности которого отображалось проецируемое назад видеоизображение. Размещение фикона на столе активировало датчики, которые изменили видеопроекцию. [32]