Хабрахабр

Как использовать “Tobii Eye Tracker 4C” для общения с ребёнком, который не может говорить и двигаться (СМА, ДЦП, БАС)

На экран компьютера выводится таблица с несколькими картинками. В основе методики лежит отслеживание направления взгляда, которое осуществляет устройство “Tobii Eye Tracker 4C”. Если задержать взгляд на отдельной картинке, то будет озвучена соответствующая ей фраза, например, «пить», «повернуть на бок», «смотреть мультики».

Когда ребёнок выучит буквы, можно будет использовать более сложные методы, вроде набора текста глазами.

Что потребуется (в двух словах)?

  1. компьютер
  2. айтрекер — устройство отслеживания направления взгляда
  3. бесплатное программное обеспечение (от автора статьи)

Содержание

Как это работает?

Выбор компьютера
2. Подробная инструкция
1. 1 Крепление айтрекера на монитор
3. Устройство Tobii Eye Tracker 4C
2. 1. Установка программного обеспечения
3. 1. Добыть файл TobiiGazeCore32.dll версии 4. 938 или более новый
3. 3. Установка драйверов и калибровка
3. 2. Установка и настройка бесплатного программного обеспечения (от автора статьи)
3. 3. 1. 3. Использование программы
5. Настройка программы для работы в режиме таблицы
4. Как изменить содержимое таблицы

А можно вместо этого купить готовую систему от известного производителя?
Приветы и благодарности

Как это работает?

Видео, иллюстрирующее работу программы:

Виолетта учится работать с программой:

Виолетта капризничает и говорит «Нет!» при помощи программы:

Если у вас нет айтрекера, вы всё равно сможете оценить работу программы, так как она может работать также с любым устройством, перемещающим курсор мыши по экрану. Водите мышью по экрану так, как вы бы перемещали свой взгляд. Останавливайте курсор на картинках (нажимать ничего не надо), — это будет соответствовать фиксации взгляда на картинке при использовании айтрекера.

Чтобы программа работала в таком режиме, нужно в качестве используемого устройства выбрать Аэромышь (2 на рисунке ниже), но сначала не забудьте поставить галочку в поле “Режим таблицы (GRID) – для детей” (1).

Подробная инструкция

1. Выбор компьютера

Какой компьютер для этого подойдёт? Я бы сказал так: современный со средними характеристиками и операционной системой Windows версий 7, 8.1, 10 (Windows 10 – только 64 бита). Несмотря на то, что в рекомендациях по использованию айтрекера Tobii 4c (https://help.tobii.com/hc/en-us/articles/213414285-Specifications-for-the-Tobii-Eye-Tracker-4C) советуют использовать компьютер с процессором Intel i5 или i7, мне удавалось работать и на современных процессорах подешевле: i3, Pentium, Celeron, и даже на Atom x5, хотя работа на последних двух может показаться заторможенной.

Если же думаете купить компьютер, главное – не берите старый, и не берите с процессором Atom. Другими словами, если у вас уже есть компьютер, и он не архаичный, то стоит попробовать работать на нём. Хотя, если денег совсем нет, то можно и такой попробовать, но лучше обговорить возможность возврата.

Лучше, чтобы было хотя-бы два порта, чтобы можно было кроме айтрекера хоть мышь воткнуть. У компьютера должен быть по крайней мере один порт USB версии 2 или 3. (Планшеты, кстати, часто грешат тем, что порт USB у них только один).

2. Устройство Tobii Eye Tracker 4C

Это устройство выпускается компанией Tobii для игроков в компьютерные игры и продаётся по умеренной цене. Чтобы не создавать конкуренции своим значительно более дорогим устройствам, “Tobii Eye Tracker 4C” сделан несовместимым с программами для людей с ограниченными возможностями, выпускаемыми ей же.

Возможно, не столь совершенные, но зато бесплатные. Однако, выпущенные компанией Tobii средства разработки оставили мне лазейку, позволяющую написать такие программы самому.

Вы без труда найдёте самый удобный для себя вариант. Сегодня (осень 2018) это устройство можно легко купить в нескольких магазинах. Я брал весной 2018 года за 11500 российский рублей.

2.1 Крепление айтрекера на монитор.

Видео, иллюстрирующее установку на ноутбук:

Компьютер может быть большой с отдельно стоящим монитором или мобильный (ноутбук). Может быть даже планшет Windows. Но нужно помнить, что айтрекер нужно располагать точно ПОД монитором так, чтобы крепление было жёстким. И если к обычному монитору айтрекер крепится идущим в комплекте самоклеющимся магнитом, то к планшету его приходится крепить как-нибудь виртуозно. На фотографии ниже планшет и айтрекер закреплены на куске доски, которая, в свою очередь, соединена с кронштейном, поворачивающимся на углу стола.

При креплении хомутами важно не загородить ни то, ни другое. Также нужно помнить, что за тёмным стеклом (прозрачным только в ИК-диапазоне) в центре айтрекера находится камера, а по краям — инфракрасные светодиоды.

Если человек лежит на боку, то и монитор нужно наклонить набок. Линия глаз должна совпадать с линией расположения айтрекера.

Поэтому крепить айтрекер к телевизору на стене не получится – слишком далеко. Расстояние от глаз до монитора с айтрекером должно быть около 50 см (расстояние вытянутой руки) или чуть дальше.

Фронтальная поверхность айтрекера немного отражает свет. Как уже было сказано, в айтрекере находится камера, и она должна быть направлена на глаза. Наклоните монитор при необходимости. Постарайтесь увидеть в ней, как в зеркале, свои глаза – это будет значить, что камера смотрит на них.

3. Установка программного обеспечения

Всё делать именно в такой последовательности!

3.1. Добыть файл TobiiGazeCore32.dll версии 4.1.3.938 или более новый

Ранее этот файл можно было скачать в составе Tobii Gaze SDK. Сейчас компания Tobii прекратила его предоставлять, и приходится пользоваться трюком, описанным ниже.

1. Нужно скачать и установить программное обеспечение Tobii EyeX 2. После этого в одном из каталогов появится этот файл. 1. Нужно скопировать его в надёжное место, после чего установленное программное обеспечение можно удалить.

Устанавливать это программное обеспечение нужно ДО установки драйверов от Tobii, иначе нужный нам файл TobiiGazeCore32.dll может не появится (кому интересно, мы решали эту проблему вот здесь: github.com/MastaLomaster/bkb/issues/6 )

1. Итак, скачиваем Tobii EyeX 2. EyeX_2. 1 ( files.update.tech.tobii.com/engine/Tobii. 1. 1. Соглашаемся с условиями: ставим галочку и жмём кнопку ‘Next”. 293.exe) и запускаем.

Ждём…

Готово, жмём “Finish”.

DLL. После установки появилось два файла TobiiGazeCore32. Это можно проверить, если нажать на имени файла правую кнопку мыши и выбрать «Свойства» в контекстном меню. Более новый лежит в каталоге “C:\Program Files (x86)\Tobii\Tobii EyeX”.

И затем, на закладке «Подробно» посмотреть на номер версии:

Копируем этот файл в надёжное место, например, создадим каталог BKB на диске C и положим файл туда:

Теперь можно удалить программу Tobii EyeX – мы взяли из неё всё, что нужно.
В Windows 10 для этого жмём кнопку «Пуск», потом — появившуюся кнопку с шестерёнкой.

Затем выберем раздел «Приложения»

Находим и удаляем всё, что начинается на “Tobii”, нажимая на кнопку «Удалить»:

3.2. Установка драйверов и калибровка

Заходим на страницу tobiigaming.com/getstarted и нажимаем на кнопку «Tobii Eyetracking»:

Затем на появившуюся кнопку «Download»:

Сохраняем файл (на будущее), и потом запускаем его:

Ставим галочку, жмём кнопку «Next»:

Ждём…

Жмём кнопку “Continue”:

Потом жмём кнопку “Get Started”:

Дальше нужно будет мышью перетащить линии на экране так, чтобы они совпали с полосками на корпусе айтрекера:

По завершению нажать кнопку “Done”.

Потом на экране появятся два кружка, которые иллюстрируют, хорошо ли айтрекер видит ваши глаза.

Если кружки расположены не в центре экрана (как на картинке сверху), наклоните монитор, чтобы сдвинуть их.
Если кружки большие и мутные – вы слишком близко придвинулись к монитору.
Если кружки маленькие и мутные – вы слишком отдалились от монитора.

Как я уже писал выше, оптимальное расстояние от монитора до глаз – около 50 см.

Далее начинается калибровка айтрекера.

ВАЖНО!!!

Если айтрекером будет пользоваться ребёнок, то калибровку нужно будет выполнить глазами ребёнка!!

Для начала можете откалибровать устройство под свои глаза, а потом под глаза ребёнка.
На экране будут появляться синие точки, нужно будет смотреть на каждую из них по очереди.

После того, как вы зафиксируете взгляд на одной из точек, она разлетится на кусочки, как верхняя точка на картинке выше.

После окончания калибровки введите имя человека, для глаз которого проводилась калибровка и нажмите кнопку “Save”

Далее запустится игра, в которой вы двигаете глазами прицел космического корабля, а затем стреляете по астероидам клавишей «пробел»:

Выйти из игры можно, нажав на клавишу “Escape”.

На панели задач появится значок с двумя кружочками, изображающими глаза:

Если устройство видит только один глаз, то будет показан только один кружочек:

Если устройство вообще не находит глаз, то будут нарисованы два крестика:

ВАЖНО! Для того, чтобы программы не мешали работать друг другу, нужно отключить стандартные действия, которые производит драйвер Tobii.

Для этого щёлкаем на значок с кружочками (1) и в открывшемся меню заходим в раздел Interactions (2):

В каждом из разделов (Touchpad, Mouse, Windows) переведите все выключатели в положение “OFF”:

Для этого снова жмём на значок с двумя кружочками, а затем на стрелочку влево: Если нужно, чтобы с устройством работал ещё один человек, нужно выполнить калибровку и для его глаз тоже.

Затем выбираем пункт “Create New Profile…” (1) и повторяем калибровку для нового человека.

Текущий профиль отмечен голубым кружком: Переключение между профилями различных людей делается в области ниже (2).

3.3. Установка и настройка бесплатного программного обеспечения (от автора статьи)

Заходим по ссылке.

После этого жмём кнопку “Download” или “View Raw”

Сохраняем файл.

(если кому интересно, там рядом лежат и исходные коды на языке С++)

Создаём каталог “C:\bkb” и копируем туда содержимое скачанного архива “bkb32c-Russian.zip”.

п. Туда же копируем файл “TobiiGazeCore32.dll” (см. 1. 3. инструкции).

Должен получиться каталог вот с такими файлами и подкаталогом “grid”:

Дело в том, что программа сохраняет файл конфигурации “config.bkb” в этом каталоге, а подкаталоги “Program Files…” закрыты на запись. Вообще-то вы можете выбрать и другой каталог для программы, но это не должен быть подкаталог “Program Files…”. (Да, я знаю, что нужно было писать в %AppData%, но так уж сложилось исторически).

Его можно взять вот здесь: www.microsoft.com/ru-ru/download/details.aspx?id=30679. Если при запуске программы вы увидите сообщение о том, что не найден файл msvcrt110.dll, то скачайте и установите “Microsoft Visual C++ Redistributable for Visual Studio 2012 Update 4”.

3.3.1. Настройка программы для работы в режиме таблицы

Программа написана так, что если вы ничего не нажимаете в её первом окне, то она начинает сама определять, с каким устройством ей следует работать. Это сделано для того, чтобы её можно было поставить в автозагрузку на компьютер человека, который сам не может ничего нажать.

Поэтому при старте программы ворон не ловим, а быстренько ставим галочку в поле “Режим таблицы (GRID) – для детей” (1).

Также рекомендую нажать кнопку “Все настройки” (2) и установить побольше время фиксации взгляда на картинках, а также время ожидания следующей фиксации взгляда:

Жмём кнопку «Сохранить» и выбираем наш айтрекер, например, Tobii (3).

Если вы не успели поставить галочку или войти в настройки, и программа запустилась, закройте её и попробуйте снова.

Выйти из программы можно, только закрыв её окно в панели задач:

4.Использование программы

После запуска в режиме таблицы программа развернёт на весь экран вот такое изображение:

Например, чтобы посмотреть мультфильмы. Свернуть эту таблицу до одной клеточки можно, посмотрев на стрелку влево (свернуть).

Если посмотреть на свернутую таблицу, то она снова развернётся на весь экран.

Если смотреть на зелёный кружок, будет произноситься слово «Да»

На красный – слово «Нет»

На колокол – звук колокола.

На одну из картинок – соответствующая фраза:

Ячейка таблицы

0. Болит живот.

1.Пить.

2.Кушать.

3.Какать.

4.Купаться.

5.Смотреть мультики.

6.Рисовать.

7.Повернуть на бок.

8.Спать

9.Смотреть в окошко.

a.Почесать лобик.

b.Читать сказку.

Как уже упоминалось, выйти из программы можно, только закрыв её окно в панели задач.

5. Как изменить содержимое таблицы

Можно изменить содержимое таблицы, положив в каталог “grid” собственные файлы.

(желательно сохранять их в программе Microsoft Paint, иначе программа может их не прочитать). Для картинок – это файлы в формате BMP.

Для звуков – это файлы в формате WAV.

BMP и проигрывается звук 0. В первой ячейке таблицы отображается файл 0. BMP и 1. WAV
Во второй ячейке – 1. WAV
Всего на одном уровне может быть до 16 ячеек, они нумеруются так:
0,1,2,3,4,5,6,7,8,9,A,B,D,E,F

BMP и F. То есть к 16-й ячейке будут привязаны файлы F. WAV

Можно сделать дополнительные уровни таблицы.
Например, при выборе ячейки «Кушать» можно открывать таблицу с выбором еды.

В таблице второго уровня файлы именуются двузначными значениями.
Например, «Кушать» на первом уровне имеет номер 2, а из неё мы попадаем в таблицу с ячейками, начинающимися на 2: 20, 21, 22……

Попробуйте сделать так:

BMP и скопируйте его в файл 20.bmp, и ещё в файл 21.bmp. Возьмите файл 2. А файл 21.bmp отредактируйте так, чтобы там было изображение пюре. Затем в графическом редакторе измените файл 20.bmp, чтобы там появилась тарелка с кашей.

В первом запишите, как вы произносите слово “каша”, а во втором – слово “пюре”. Теперь запишите два звуковых файла: 20.wav и 21.wav.

А при остановке взгляда на этих картинках – будут произносится слова, записанные в файлах 20.wav и 21.wav соответственно. Теперь перезапустите программу, и когда ребёнок будет смотреть на картинку со словом “кушать”, то после произнесения этого слова откроется новая таблица с вашими картинками 20.bmp, и 21.bmp.

Всего может быть три уровня, как показано ниже:

Ячейки следующего уровня добавляют ещё одну цифру к имени файла верхнего уровня:
2-кушать, 20-каша, 200-манная каша.

После добавления новых файлов в каталог “grid” программу нужно перезапустить, чтобы она их увидела.

Записывайте свои звуки, создавайте свои картинки, объединяйте их в свои собственные таблицы.

А можно вместо этого купить готовую систему от известного производителя?

Конечно, можно. Но за программное обеспечение они просят денег, и эти программы не работают с дешёвыми геймерскими айтрекерами.

Вот, например, трекер с базовой программой за $1700.

Приветы и благодарности

Режим таблицы для общения детей я сделал с подачи Александра Макарчука – руководителя благотворительного фонда «у Совы» ( sova.by ) из Беларуси. Александр также помог мне со сбором требований и тестированием. Фонд, в числе прочего, занимается организацией дистанционного обучения людей с инвалидностью с последующем трудоустройством. Саша, привет и успехов тебе!

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть