Microsoftのインターフェースといえば、Windowsの画面、キーボード、マウス、Xboxコントローラーのように、操作する道具の形を思い浮かべやすいかもしれません。ところが公開特許のFIGを並べると、その道具は身体や部屋の中へほどけていきます。指輪が指の曲がりを読み、前腕の筋肉が入力になり、グローブの中では流体の硬さが変わります。

画面側も固定されません。キーボードは空中へ出現し、プレゼン資料は壁や棚へ広がり、仮想物体の場所には小さなロボットが走ってきて本物の手触りを作る。さらに、ゲームパッドの部品は交換可能になり、バックパックは周囲を見ながらスキーヤーへ助言し、目の前のディスプレイは多数の小型プロジェクターと導波路へ分解されます。

これらは、Microsoft CorpまたはMicrosoft Technology Licensing名義のUS公開特許に記された提案です。各特許と公開製品との一対一対応は未確認です。

FIG. 01

指輪で指の曲がり方そのものを入力にする

SOURCE FIGURESFIG. 1
PUBLICATIONUS20160077587A1
指輪型デバイスが指のflexionとrotationを読み、指の姿勢をタップやスクロールとは別の入力チャネルとして使う。
FIG. 01US20160077587A1
指に装着したSmart ringが指の屈曲や回転を読み、タブレット上の操作へ変換するUS20160077587A1のFIG.1特許図面

指輪型デバイスが指のflexionとrotationを読み、指の姿勢をタップやスクロールとは別の入力チャネルとして使う。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Smart ring」は、指輪にセンサーを持たせ、装着した指の屈曲や回転に対応する信号を取得する発明です。FIG. 1では、同じring 110を着けた指の異なる姿勢と、それに応じてtablet 112上の表示が変わる例が並びます。

特許は、指そのものを小さなジョイスティックのように扱うだけでなく、別の指や物体との接触と組み合わせた入力も想定しています。画面に触れる場所を増やすのではなく、画面の外にある指の形を操作語彙へ加えます。

Microsoft Technology Licensing LLCFIG. 01
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2014-09-17
PUBLISHED
2016-03-17
PUBLICATION
US20160077587A1
INVENTORS
Wolf Kienzle / Kenneth P. Hinckley
ORIGINAL
FIG. 02

前腕の筋電からどのジェスチャーをしたか読む

SOURCE FIGURESFIG. 1
PUBLICATIONUS20090327171A1
手や指を直接撮影せず、前腕の筋肉が出すEMG信号からジェスチャーを分類する。
FIG. 02US20090327171A1
前腕に複数電極を持つバンドを巻き、筋電信号を取得するUS20090327171A1のFIG.1特許図面

手や指を直接撮影せず、前腕の筋肉が出すEMG信号からジェスチャーを分類する。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Recognizing gestures from forearm EMG signals」は、前腕に配置した複数の電極から筋電、EMGのサンプルを取り、機械学習で手や指のジェスチャーを認識する発明です。FIG. 1では、複数のsensor 102を持つband 100が前腕を囲んでいます。

指が動けば、その動きを生む筋肉の活動は腕の中で先に起きます。特許はその信号パターンを学習し、個々の指の動きや手の姿勢などへ分類します。カメラの視野に手を入れなくても、身体内部の電気信号を操作入力にできます。

Microsoft Technology Licensing LLCFIG. 02
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2008-06-26
PUBLISHED
2009-12-31
PUBLICATION
US20090327171A1
INVENTORS
Desney Tan / Dan Morris / Scott Saponas / Ravin Balakrishnan
ORIGINAL
FIG. 03

グローブの中の流体を硬くして、仮想物体の抵抗を返す

SOURCE FIGURESFIG. 1
PUBLICATIONUS20190004602A1
グローブ内のfluidic channelにある流体の粘度を電場などで変え、指や手の動きへ機械的な抵抗を加える。
FIG. 03US20190004602A1
HMDを装着した利用者が触覚グローブでバスケットボール状の物体を持つUS20190004602A1のFIG.1特許図面

グローブ内のfluidic channelにある流体の粘度を電場などで変え、指や手の動きへ機械的な抵抗を加える。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Haptic feedback system」は、ウェアラブル内部のfluidic channelへ粘度を調整できる流体を入れ、外部から与える場を変えて流体の粘度を切り替える発明です。FIG. 1ではHMDを着けた利用者が、グローブを装着した両手でボールを持つ例が描かれています。

流体が動きやすい状態なら手を曲げやすく、粘度を上げれば変形へ抵抗を作れます。仮想空間で硬い物体へ触れた瞬間にグローブ側の抵抗を増やせば、振動だけではなく「それ以上動かしにくい」という感覚を返せます。

Microsoft Technology Licensing LLCFIG. 03
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2017-06-30
PUBLISHED
2019-01-03
PUBLICATION
US20190004602A1
INVENTORS
James David Holbery
ORIGINAL
FIG. 04

手を下ろしたまま、空中のキーボードでタイプする

SOURCE FIGURESFIG. 3
PUBLICATIONUS20160018985A1
実際の手の位置を読み、手のホログラムとkeyboard hologramの位置関係を仮想空間側で使いやすく並べ直す。
FIG. 04US20160018985A1
利用者の実際の手は体の横にありながら、画面上では手のホログラムが仮想キーボードの上へ配置されるUS20160018985A1のFIG.3特許図面

実際の手の位置を読み、手のホログラムとkeyboard hologramの位置関係を仮想空間側で使いやすく並べ直す。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Holographic keyboard display」は、利用者の手の深度情報を取り、その手を表すholographic hand imageとkeyboard hologramを表示する発明です。FIG. 3では、実際の右手は身体の横へ下げたままなのに、表示上のhand imageはkeyboardの上へ持ち上げられています。

キーボードは実際の手の位置へそのまま貼り付くのではなく、仮想手の下へ一定の距離で適応的に配置できます。利用者が姿勢を変えたり手が少し動いたりしても、仮想空間内では「キーを押しやすい手とキーボード」の関係を維持しようとします。

Microsoft Technology Licensing LLCFIG. 04
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2014-07-15
PUBLISHED
2016-01-21
PUBLICATION
US20160018985A1
INVENTORS
Rotem Bennet / Lewey Geselowitz / Wei Zhang / Adam G. Poulos / John Bevis / Kim Pascal Pimmel / Nicholas Gervase Fajt
ORIGINAL
FIG. 05

プレゼン資料を壁や棚や部屋そのものへ配置する

SOURCE FIGURESFIG. 3
PUBLICATIONUS20190005724A1
スライドの一枚に情報を詰める代わりに、物理空間内の複数の場所をプレゼン用の表示領域として使う。
FIG. 05US20190005724A1
部屋の壁、棚、キャビネット付近へ複数の数字やグラフなどのAR表示を配置したUS20190005724A1のFIG.3特許図面

スライドの一枚に情報を詰める代わりに、物理空間内の複数の場所をプレゼン用の表示領域として使う。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Presenting augmented reality display data in physical presentation environments」は、物理的なpresentation environmentのどこへAR表示を置くかというconfigurationを作り、その場所へ複数の情報オブジェクトを割り当てる発明です。FIG. 3では、壁面、棚、キャビネットの周囲へ数字やグラフなどが分散して配置されています。

表示は単に巨大な一枚の仮想スクリーンではありません。部屋の形や利用できる位置、過去の配置、好みなどを使い、情報ごとに表示場所を決められます。プレゼンテーションのレイアウト対象がスライドから物理空間へ拡張されます。

Microsoft Technology Licensing LLCFIG. 05
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2017-06-30
PUBLISHED
2019-01-03
PUBLICATION
US20190005724A1
INVENTORS
Michel Pahud / Nathalie Riche / Eyal Ofek / Christophe Hurter / Steven Mark Drucker
ORIGINAL
FIG. 06

仮想物体の場所へ小さなロボットを走らせて触らせる

SOURCE FIGURESFIG. 1C
PUBLICATIONUS20220409996A1
机上の小型ロボットが仮想物体の位置へ移動し、高さや傾きを変えて、手が触れる実物の面をその場で作る。
FIG. 06US20220409996A1
HMDを装着した利用者の前のテーブル上を複数のHapticBotが移動し、仮想の箱やグラスの位置へ物理的な接触面を作るUS20220409996A1のFIG.1C特許図面

机上の小型ロボットが仮想物体の位置へ移動し、高さや傾きを変えて、手が触れる実物の面をその場で作る。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Mobile Haptic Robots」は、HapticBotと呼ぶ複数の小型ロボットを表面上で移動させ、仮想物体に対応する物理的な触覚面を作る発明です。FIG. 1Cでは、HMDを着けた利用者の前のtable 102上に複数のHapticBotが並び、視界にはcartonやglassのvirtual imageが見えています。

各ロボットは必要な場所へ移動するだけでなく、上面の高さや傾きを変えられる構成も説明されています。仮想の箱を触ろうとする手の下へロボットが先回りしていれば、空中にしかない映像へ現実の接触面を与えられます。

Microsoft Technology Licensing LLCFIG. 06
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2021-06-24
PUBLISHED
2022-12-29
PUBLICATION
US20220409996A1
INVENTORS
Mar Gonzalez Franco / Eyal Ofek / Michael Jack Sinclair / Ryo Suzuki
ORIGINAL
FIG. 07

ゲームパッドのボタンを磁石で付け替える

SOURCE FIGURESFIG. 1
PUBLICATIONUS20160361635A1
button accessoryを磁力で保持し、異なる形状の部品へ交換できるゲームコントローラー。
FIG. 07US20160361635A1
交換可能なボタン部品を備えたゲームコントローラーの正面を示すUS20160361635A1のFIG.1特許図面

button accessoryを磁力で保持し、異なる形状の部品へ交換できるゲームコントローラー。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Game controller with removable magnetic button」は、ゲームコントローラー側のbutton-retention featureと交換部品との磁気的な吸引を使って、選択したbutton accessoryを着脱できる発明です。FIG. 1には、複数の操作部を備えたコントローラーの基本構成が描かれています。

狙いはソフトウェアでボタン割り当てを変えるだけではなく、指が実際に触れる部品の形まで交換することです。異なる形状のアクセサリーを同じ入力センサーへ取り付けられれば、ゲームや好みに合わせて物理的な操作感を組み替えられます。

Microsoft Technology Licensing LLCFIG. 07
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2015-06-09
PUBLISHED
2016-12-15
PUBLICATION
US20160361635A1
INVENTORS
Aaron Schmitz
ORIGINAL
FIG. 08

スキー中に、バックパックが周囲を見て「そっちはコース外」と教える

SOURCE FIGURESFIG. 3B
PUBLICATIONUS20210081749A1
マイクとカメラを持つバックパックが、曖昧な音声指示と周囲の状況を組み合わせて答える。
FIG. 08US20210081749A1
スキーヤーがAI搭載バックパックへ進行方向を尋ね、バックパックがコース外だと返答するUS20210081749A1のFIG.3B特許図面

マイクとカメラを持つバックパックが、曖昧な音声指示と周囲の状況を組み合わせて答える。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Artificial intelligence assisted wearable」は、マイクやカメラを持つバックパック型のウェアラブルが、利用者のcontextual voice commandと周囲の環境を組み合わせて処理する発明です。FIG. 3Bではスキーヤーが進む方向について尋ね、バックパックが「その方向はコース外」と返しています。

音声命令だけで対象を特定しなくてもよいことが重要です。「あれ」「そっち」のような文脈依存の指示を、カメラなどで見えている環境とAIで解釈します。デジタルアシスタントがポケットの端末ではなく、周囲を一緒に見ている装備になります。

Microsoft Technology Licensing LLCFIG. 08
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2019-09-13
PUBLISHED
2021-03-18
PUBLICATION
US20210081749A1
INVENTORS
Brian Stephen Claire
ORIGINAL
FIG. 09

目の前の映像を、一台のプロジェクターではなく「プロジェクターの列」で作る

SOURCE FIGURESFIG. 1
PUBLICATIONUS20240085714A1
projector arrayからwaveguideへ画像光を入れ、導波路内で広げて目へ出射するnear-eye display。
FIG. 09US20240085714A1
複数の小型プロジェクターから導波路へ画像光を入れ、全反射と出射結合を経て目へ届けるUS20240085714A1のFIG.1特許図面

projector arrayからwaveguideへ画像光を入れ、導波路内で広げて目へ出射するnear-eye display。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Near-eye display systems utilizing an array of projectors」は、複数のprojectorを並べ、そのimage lightをwaveguideのinput couplerへ入れるnear-eye displayです。FIG. 1ではcontroller 100からprojector array 102へ信号が渡り、光がwaveguide 108内を反射しながら進んでeye 120側へ出ていく構成が示されています。

一つの大きな光源から映像を作るのではなく、小型プロジェクターのarrayと一方向のexit pupil expansionを組み合わせます。目のすぐ前の表示を、ディスプレイパネルではなく光を入れる位置と導波路内の経路として設計します。

Microsoft Technology Licensing LLCFIG. 09
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2022-09-14
PUBLISHED
2024-03-14
PUBLICATION
US20240085714A1
INVENTORS
Joel Steven Kollin / Andreas Georgiou / Ishan Chatterjee / Bernard Charles Kress / Maria Esther Pace / Mario Possiwan
ORIGINAL
FIG. 10

一枚のディスプレイをヒンジをまたいで折り畳む

SOURCE FIGURESFIG. 1
PUBLICATIONUS20120307472A1
二つのhousing partの境界をflexible displayがまたぎ、閉じたときにはヒンジ周辺で急角度に折れず、支えられた曲率を作る。
FIG. 10US20120307472A1
柔軟な一枚のディスプレイを二つの筐体部分にまたがって配置し、閉じるときに曲率を持たせて折り畳むUS20120307472A1のFIG.1特許図面

二つのhousing partの境界をflexible displayがまたぎ、閉じたときにはヒンジ周辺で急角度に折れず、支えられた曲率を作る。

拡大時はドラッグで移動。+/−で拡大縮小、0で全体表示、矢印キーで移動、Alt+矢印キーで前後のFIG.へ。

どんな発明?

「Flexible display overcenter assembly」は、二つのhousing partにまたがるflexible displayを持つ折り畳み端末の機構です。FIG. 1には開いた状態、閉じる途中、閉じた状態が描かれ、ヒンジ部分でも一枚の表示面が連続しています。

課題は、柔らかい画面を単純な折り目で傷めないことです。特許はflangeやhinge assemblyを使い、閉じたときにディスプレイを支える半径を作る構成を説明します。小さく持ち運ぶ端末と大きい表示面の両方を、画面そのものを曲げることで両立しようとします。

Microsoft Technology Licensing LLCFIG. 10
ASSIGNEE
Microsoft Technology Licensing LLC
PRIORITY
2011-06-03
PUBLISHED
2012-12-06
PUBLICATION
US20120307472A1
INVENTORS
David D. Bohn / Paul M. O'Brien / Christopher B. Fruhauf
ORIGINAL

AFTER THE FIGURES

入力装置と画面の役割が広がる

これらの特許では、入力装置と画面が「物」ではなくなっていきます。10件では、指の曲がり、筋肉の電気信号、手袋の抵抗、部屋の壁、机の上を走るロボットまで、必要な瞬間だけ入力や出力の役割を引き受けます。

AI入りバックパックのようにコンピューター側が周囲の状況を読むものもあれば、折り畳みディスプレイのように機械そのものが形を変えるものもあります。人間、物体、空間、光学系のどこに境界線を引くかが、発明ごとに引き直されています。

Microsoftの特許に残る変な未来では、マウス、画面、キーボード、コントローラーの役割が、専用ハードウェアを越えて広がります。入力が必要なら身体から拾い、表示が必要なら空間へ置き、触覚が必要なら小さなロボットを走らせる。インターフェースがその場で組み立てられる資源になっていきます。

SOURCES

一次資料

  1. US20160077587A1 — Smart ring
  2. US20090327171A1 — Recognizing gestures from forearm EMG signals
  3. US20190004602A1 — Haptic feedback system
  4. US20160018985A1 — Holographic keyboard display
  5. US20190005724A1 — Presenting augmented reality display data in physical presentation environments
  6. US20220409996A1 — Mobile Haptic Robots
  7. US20160361635A1 — Game controller with removable magnetic button
  8. US20210081749A1 — Artificial intelligence assisted wearable
  9. US20240085714A1 — Near-eye display systems utilizing an array of projectors
  10. US20120307472A1 — Flexible display overcenter assembly