• Виртуальная реальность
  • Шлем виртуальной реальности
  • Комната виртуальной реальности
  • Прототип автомобиля в виртуальной реальности
  • Виртуальная реальность, визуализация данных
  • Виртуальная реальность в автомобилестроении
  • Человек в виртуальной реальности
  • Комната виртуальной реальности
  • virtual reality aviation

Мозговые интерфейсы

Для того, чтобы при помощи одной только ментальной энергии поднять стакан на несколько футов, волшебникам приходилось тренироваться по несколько часов в день. Иначе принцип рычага легко мог выдавить мозг через уши.

Терри Пратчетт, «Цвет Волшебства»

Очевидно, венцом человеко-машинного интерфейса должна стать возможность управления машиной одним только усилием мысли. А получение данных прямо в мозг — это уже вершина того, чего может достичь виртуальная реальность. Идея эта не нова и уже много лет фигурирует в самой разнообразной фантастической литературе. Тут и практически все киберпанки с прямым подключением к кибердекам и биософтами. И управление любой техникой посредством стандартного мозгового разъема (например, у Сэмюэля Дэлани в романе «Нова»), и масса всяких других интересных вещей. Но фантастика — это хорошо, а что делается в реальном мире?

Оказывается, разработка мозговых интерфейсов (BCI или BMI — brain-computer interface и brain-machine interface) идет полным ходом, хотя об этом мало кто знает. Конечно, успехи весьма далеки от того, про что пишут в фантастических романах, но, тем не менее, они вполне заметны. Сейчас работы над мозговыми и нервными интерфейсами, в основном, ведутся в рамках создания различных протезов и устройств для облегчения жизни частично или полностью парализованным людям. Все проекты можно условно поделить на интерфейсы для ввода (восстановление или замена поврежденных органов чувств) и вывода (управление протезами и другими устройствами). Над двунаправленными системами взаимодействия с мозгом, насколько я знаю, не работает пока никто. Еще один важный критерий, по которому можно разделить существующие разработки, — степень травматичности, то бишь, необходимость хирургического вмешательства. Во всех случаях прямого ввода данных необходимо производить операцию по вживлению в мозг или нервы электродов. В случае вывода можно обойтись внешними датчиками для съема электроэнцефалограммы (ЭЭГ). Впрочем, ЭЭГ — инструмент достаточно ненадежный, поскольку череп сильно ослабляет мозговые токи и получить можно только очень сильно обобщенную информацию. В случае вживления электродов можно снимать данные непосредственно с нужных мозговых центров (например, двигательных). Но такая операция — дело нешуточное, так что пока эксперименты ведутся только на животных. Однако, перейдем к живым примерам.

Ввод

Сначала поговорим о вводе информации. Уже достаточно давно созданы и используются такие устройства, как слуховые имплантанты (cochlear implant, также известный как улитковый имплантант), предназначенные для восстановления слуха у людей с частично поврежденным слуховым нервом (то есть для тех, кому обычный слуховой аппарат уже не поможет). Действует это устройство следующим образом — во внутреннее ухо вживляется массив электродов (до нескольких десятков штук), которые электрическими импульсами раздражают уцелевшую часть слухового нерва и таким образом создают в мозгу ощущение звука. Коробочка с электроникой, генерирующей эти импульсы, вживляется в черепную кость за ухом. Сигналы на нее подаются с микрофона и специального речевого процессора через индукционную катушку.

uho

Схема установки слухового имплантанта
Устройство, конечно, не полностью восстанавливает слух, но большинство прооперированных начинают воспринимать на слух речь и слышать окружающие звуки. Некоторые даже могут свободно говорить по телефону и слушать музыку.

Первые эксперименты по воздействию на слуховой нерв электрическими импульсами с целью восстановления слуха проводились еще в 50-х годах. В 70-х начали делать первые пробные операции по вживлению слуховых имплантантов, а в начале 80-х появились первые коммерческие устройства, и операции по их вживлению превратились из экспериментальных во вполне рутинные. Сейчас разработка и производство слуховых имплантантов уже стали самостоятельной частью медицинского бизнеса и занимается этим несколько десятков различных фирм. Так что эту технологию можно считать вполне сформировавшейся.

Более сложную задачу представляет собой ввод в мозг зрительной информации и создание зрительных протезов. В первую очередь, это связано со значительно более сложной организацией зрительных центров, по сравнению со, скажем, слуховыми. Как выяснилось, для передачи более-менее правдоподобного звукового ощущения достаточно использовать порядка 20-30 каналов одновременно (причем, большее влияние на качество звука оказывает даже не количество каналов, а правильное расположение соответствующих электродов). А сколько каналов надо, чтобы передать хотя бы примитивную картинку в VGA-разрешении — 320×240 получается 76 тысяч пикселов, и вживить такой массив электродов в мозг пока просто нереально. Но работы ведутся. В частности, Добеллевским институтом (Dobelle Institute, www.dobelle.com) еще с 70-х годов разрабатывается система искусственного зрения Artificial Vision System, предназначенная для восстановления зрения у слепых. Система эта представляет собой миниатюрную видеокамеру, закрепленную на оправе очков.

glaz_mozg

Сигнал с камеры обрабатывается портативным компьютером и передается на разъем, вмонтированный в задней части черепа пациента.

Оттуда он, при помощи имплантированных электродов, поступает непосредственно в область мозга, отвечающую за зрение (visual cortex). Конечно, о полном восстановлении зрения речь не идет — пациенты видят только что-то вроде белых точек, очерчивающих предметы (так называемые phosphenes). Однако, научившись интерпретировать даже такую неполную визуальную информацию, некоторые из них уже могут свободно перемещаться по помещению и даже медленно водить машину (правда, только на территории института). Скорость обновления кадров составляет от 1 до 5 в секунду. Операция уже проводится коммерчески и оценивается примерно в $120K. Надо сказать, что данная технология позволяет вернуть зрение только людям, потерявшим его в результате несчастных случаев — то есть тех, кто уже «умел видеть» раньше.

Первая имплантация такого зрительного протеза была проведена еще в 1978 году, однако это была, скорее, проверка идеи на практике (компьютер, обрабатывающий изображение, тогда занимал почти целую комнату и ни о какой мобильности речь даже не шла, да и картинка состояла всего из нескольких точек). В 2000 году была произведена имплантация улучшенной системы другому пациенту — в этом случае массив электродов позволял формировать порядка 60 точек, что значительно улучшило картинку. В последних операциях, проведенных в Dobelle Institute в 2002-2003 годах, использовались два массива электродов (242 электрода в каждом), имплантированных в оба полушария мозга. Такая система уже позволяет получить картинку, состоящую из нескольких сотен пикселов (предположительно, матрицу 15 на 15). Вообще же считается, что для создания более-менее приличной зрительной картины необходимо хотя бы порядка 1000 пикселов (то есть матрица 30 на 30) и не меньшее количество электродов. Насколько это возможно, покажет время. Но у такой системы есть один несомненный плюс — к ней можно подключить не только простую камеру, но и инфракрасную, ультрафиолетовую, рентгеновскую… Насколько при этом расширятся возможности зрения, трудно даже представить.

Впрочем, Dobelle Institute — не единственное место, где пытаются вводить в мозг визуальную информацию. Порядка десяти других крупных исследовательских групп разрабатывают более-менее аналогичные технологии. Познакомиться с их списком и достижениями можно по адресам www.bioen.utah.edu/cniwww.biomed.brown.edu/Courses/BI108/ BI108_1999_Groups/Vision_Team/Vision.htm. Основные различия заключаются в типе имплантируемых электродов. В случае Dobelle Institute электроды просто накладывались на поверхность мозга и для стимуляции необходимо было подавать достаточно высокие напряжения (порядка 10 вольт, ток несколько миллиампер), что могло спровоцировать припадки наподобие эпилептических. Разрабатываемое, например, в университете Юты устройство должно проникать в мозг на глубину нескольких миллиметров. При этом необходимая сила тока падает до десятков микроампер. Но тут уже возникают трудности с созданием подходящих массивов проникающих электродов и их имплантацией.

Другие возможные способы ввода визуальной информации в мозг — через стимуляцию зрительного нерва или сетчатки. Первым способом особых результатов пока добиться не удалось. Группа ученых из бельгийского University catholique de Louvain имплантировала добровольцу электроды, стимулирующие зрительный нерв, и подтвердила возможность генерировать с его помощью все те же светящиеся точки (phosphenes). Однако управлять изображением им не удалось. С сетчаточными имплантантами дело обстоит лучше. Вот два, пожалуй, самых известных проекта.

В 2000 году группа из университета Иллинойса (University of Illinois) и Чикагского медицинского центра (Chicago Medical Center) провела первую операцию по вживлению в глаза пациентов микросхем искусственной сетчатки. Собственно говоря, искусственная сетчатка — это слишком громко сказано. Пока что группа, состоящая из доктора Алана Чоу (Alan Chow), Голама Пеймана (Gholam Peyman) и Хосе Пулидо (Jose Pulido), имплантировала под сетчатку пациентов (больных retinitis pigmentosa, вызывающей потерю фоточувствительных клеток сетчатки и, как следствие, практически полную потерю зрения) кремниевую микросхему (диаметр около 2.5 миллиметров, толщина 0.002 мм), содержащую порядка 3500 фоточувствительных ячеек (наподобие солнечной батареи). Надо заметить, что имплантант не требует внешнего питания или сигналов, так как электрические импульсы вырабатываются им самим под воздействием попавшего в глаз света (как и в естественных фоторецепторах). Имплантант также не подключается к глазному нерву, а должен стимулировать собственную сетчатку пациента (фактически, только заменять отмершие фоторецепторы). Исследовательская группа вскоре преобразовалась в фирму Optobionics (www.optobionics.com), занимается дальнейшей разработкой своей искусственной сетчатки (она так и называется — Artificial Silicon Retina) и провела операции по ее вживлению 10 пациентам. У всех прооперированных резко улучшилось зрение и не наблюдается никаких побочных последствий вроде инфекций или отторжения имплантанта.

Более интересные проекты разрабатываются в Университете Джона Хопкинса, в MIT, в Гарварде, а также компанией Second Sight (www.2-sight.com) и еще несколькими институтами. Все эти организации работают над созданием так называемого epi-retinal имплантанта, который должен находиться непосредственно на поверхности сетчатки. В остальном, принцип действия очень похож на Artificial Silicon Retina. Массив электродов точно так же стимулирует клетки сетчатки, создавая таким образом изображение. Правда, дальше начинаются отличия. Исходная картинка во всех этих проектах регистрируется внешней видеокамерой, затем обрабатывается компьютером и потом передается на имплантант. Передача во всех случаях предусматривается беспроводная — либо засветка фотодиодов лазером (лазер при этом должен находиться непосредственно перед глазом, например, в очках), либо по радио.

retins

Вот так должен работать сетчаточный имплантант Second Sight
Пока что был испытан только прототип разработки Second Sight. Он представлял собой микросхему размером 5х5 мм, содержащую массив из 16 электродов. Данные на устройство передавались с имплантированного в череп за ухом приемника. Получивший такой имплант доброволец действительно смог видеть световые точки и даже различать отдельные статические предметы — так что опыт оказался вполне успешным. Но об имплантировании устройств высокого разрешения речь пока не идет. И все же, возможно, «цейсовские глаза» не так уж далеки от реальности.

Это были, как я уже сказал, наиболее интересные проекты по вводу информации в человеческий мозг. А в следующий раз поговорим о том, как можно вывести информацию из мозга и использовать ее для управления различными устройствами.

Итак, как же можно управлять компьютером исключительно силой мысли? Оказывается, очень даже легко. Собственно, проблемой управления внешними устройствами при помощи одного только мозга начали заниматься очень давно. Еще в 1967 Эдмонд Деван (Edmond Dewan) проводил эксперименты по считыванию управляющих сигналов с мозга с помощью электроэнцефалографа. Испытуемые научились до определенной степени контролировать амплитуду мозгового альфа-ритма и таким образом передавали отдельные буквы при помощи азбуки Морзе. Первым словом, переданным таким образом на телетайп, было слово «кибернетика». Определенно, назвать мозговым или нервным интерфейсом созданное Деваном устройство нельзя, но оно продемонстрировало возможность осмысленного управления внешним устройством при помощи одной только мысли. Вскоре после этого, в 70-х годах, американское оборонное агентство DARPA (известный рассадник новых технологий) начало исследования по применению техники мысленного контроля для управления боевыми самолетами. Речь тут шла даже не об управлении, а о мониторинге ментального состояния пилота и подстройке самолета под это состояние. Однако через некоторое время работа была остановлена, поскольку тогдашняя электроника не позволяла достичь сколько-нибудь приемлемого практического результата.

Вывод

А теперь посмотрим, насколько успешно удается выводить мозговые сигналы «наружу» и целенаправленно использовать их для управления техникой. Самая, пожалуй, свежая новость на этом фронте — эксперименты с обезьянами в Университете Дьюка (Duke University). Суть экспериментов такая — в двигательные центры мозга обезьяны были вживлены электроды (около 100), регистрирующие его активность. Затем обезьянам была задана относительно простая задачка: при помощи джойстика навести на экране компьютера курсор на заданную точку и потом, сжимая джойстик (он был оборудован датчиком давления), увеличить курсор до заданного размера. Все мозговые импульсы во время выполнения этих заданий записывались и анализировались. За удачное выполнение задания обезьяну награждали глотком вкусного сока. А затем началось самое интересное — джойстик отключили, а передвижения курсора управлялись только мозгом обезьяны. Причем через некоторое время обезьяна это поняла и перестала обращать внимание на джойстик и вообще пользоваться рукой. Курсор она при этом наводила вполне успешно.

Этот эксперимент проводился еще в 2000 году. Основной его целью было сопоставить мозговые сигналы видимым движениям руки и суметь затем точно интерпретировать одну только мозговую активность в предполагаемое движение (причем, в реальном режиме времени). Сейчас эта работа получила свое логическое продолжение. Между компьютером, обрабатывающим мозговые сигналы, и дисплеем была включена механическая рука-манипулятор. Таким образом, обезьяна управляла манипулятором, который затем управлял курсором. Этот опыт прошел вполне успешно, причем обезьяна довольно быстро приспособилась к запаздыванию, которое вызывала инерция руки, и практически стала воспринимать механизм как продолжение своего тела. Ознакомиться с результатами этого исследования можно по адресу www.plosbiology.org/pips/plbi-01-02-carmena.pdf.

Кстати, аналогичный эксперимент с человеком был проведен еще в 1997 году в Университете Элмори. Там имплантировали электроды в двигательные центры нескольких полностью парализованных пациентов (в том числе потерявших способность говорить). Пациенты со временем научились передвигать курсор по экрану компьютера и таким образом общаться с врачами (например, выбирая на экране одну из простых фраз). Имплантант передавал информацию по радио, а питание получал через индукционную катушку прямо через череп — то есть никаких разъемов и проводов. Почитать об этом проекте можно здесь: www.emory.edu/WHSC/HSNEWS/releases/feb99/022399brain.html.

Однако, несмотря на успехи вышеописанной методики, большинство других исследователей все-таки предпочитает не влезать в голову пациенту до такой степени. Поэтому для считывания сигналов, в основном, используется электроэнцефалограмма с последующей обработкой. Например, исследователи из Швейцарского института Dalle Molle и испанского Центра биомедицинских исследований создали прототип кресла-каталки, управляемого силой мысли. Прототип представляет собой колесный робот, связанный с оператором посредством шапочки с электродами и обрабатывающий сигналы компьютера. Для управления используются сигналы электрической активности мозга (аналогично электроэнцефалограмме), так что никакого хирургического вмешательства и вживления электродов не требуется. Как выяснилось, за пару дней операторы научились генерировать вполне стабильные «состояния ума», четко распознаваемые системой и интерпретируемые роботом как команды «вперед», «влево» и «вправо».

Имеется и масса других аналогичных разработок, благо, для работы с энцефалограммами не требуются сложные операции на мозге. Правда, и сложность интерпретации сигналов заметно выше. Кстати, ежегодно даже проводится конкурс на наиболее работоспособный алгоритм обработки ЭЭГ на предмет выделения из нее требуемой информации. Почитать о нем можно здесь: ida.first.fhg.de/~blanker/competition.

Еще один интересный пример применения ЭЭГ продемонстрирован в институте биомедицинской инженерии в Граце (www-dpmi.tu-graz.ac.at). Там «чтение мыслей» при помощи ЭЭГ совместили с электростимуляцией мышц. В результате парализованный пациент смог до определенной степени восстановить контроль над своей рукой.

Пару слов насчет электростимуляции. Как известно, лапка лягушки сокращается под действием электрического тока. А если этот ток подавать с умом, то можно вызывать вполне контролируемый отклик мышц, до некоторой степени симулирующий их естественную работу.

Впрочем, использование ЭГГ уже давно вышло из чисто исследовательской стадии. Сейчас на рынке имеются, как минимум, три коммерческих устройства, позволяющих сопрягать энцефалограф и компьютер. Первой такую штуку под названием Interactive Brainwave Visual Analyser начала выпускать фирма IBVA (www.ibva.com) еще в 1991 году. Устройство предназначалось, в первую очередь, для людей творческих, поэтому сопутствующий софт был, в основном, сосредоточен на манипуляциях с графикой и звуком (сигналы можно было выводить в формате MIDI). Впрочем, можно было применять это устройство и для управления компьютером (хотя на это создатели, похоже, как раз не упирали) и для всяких достаточно нетривиальных вещей вроде технологий быстрого обучения (чтобы отслеживать состояние мозга в процессе и не терять концентрации) или решения конфликтов (сила воли вместо банального мордобоя).

Несколько позже появилось еще одно похожее устройство ввода, которое я опишу подробнее (поскольку все разработки очень похожи друг на друга и по устройству, и по способу функционирования). Итак, компания Brain Actuated Technologies (www.brainfingers.com) выпустила на рынок девайс под названием Cyberlink Interface. Cyberlink Interface берет управляющие сигналы с трех датчиков, размещенных на лбу пользователя (на модной головной повязке, как и у IBVA). Лоб выбран потому, что с кожи хорошо снимать биопотенциалы, вызванные работой мозга и связанной с ней активностью лицевых мышц. Всего таких сигналов снимается 14 — десять непрерывных (похожих на получаемые при электроэнцефалографии) и четыре дискретных (отслеживаются движения глаз влево/вправо и мускульная активность лица). Соответственно, можно получить вполне приличный набор средств управления курсором и подачи команд (настройку можно произвести на уровне драйвера, аналогичного драйверу мыши в Windows). С датчиков сигналы попадают в управляющий блок, где разделяются по частотам, обрабатываются DSP, и затем уже выделенные сигналы передаются по последовательному порту в компьютер, где интерпретируются драйвером. Представители фирмы утверждают, что во время испытаний люди, знакомые с таким интерфейсом, могли меньше чем за 4 секунды точно навести курсор на случайным образом появляющийся на экране квадрат размером 32х32 пиксела. Не мышь, конечно, но тоже неплохо. А вот скорость реакции в задачах, требующих нажатия кнопки мыши, у пользователей Cyberlink на 15% превосходила обычных «мышинистов». Предназначено это устройство, как видите, в первую очередь, для управления компьютером в качестве устройства ввода и нацелено на тех, кто не может работать с компьютером нормально. Стоит это устройство около $2000.

Итого, что же мы имеем. Технология прямого взаимодействия с компьютером пока что находится практически в зачаточном состоянии, однако активно развивается. Хотелось бы надеяться, что это развитие приведет к ощутимым результатам в ближайшие 10-20 лет. Тем более, что предпосылки для этого есть. Проблемы с обработкой сигналов более-менее решились с появлением мощных компьютеров. Миниатюризация электроники и развитие беспроводных интерфейсов вполне способны решить и проблемы с мобильностью таких устройств. Есть надежда, что успехи нанотехнологий и микромеханических устройств, наконец, позволят создать совершенно новое поколение электродов и технологий имплантации (например, самособирающиеся прямо в мозгу датчики). А там уже недалеко и до настоящих киборогов.

Константин АФАНАСЬЕВ по материалам журнала Новые технологии, №49,50, 2003 год