機械学習は、認知のショートカットをより良いデザインへと変えられるのか

通常の勤務日、ほとんどの人の認知力は、ソーシャルメディアやメール、その他のテクノロジーを用いた刺激要因によって午前中のうちに消耗してしまう。こうした刺激には、ユーザーの注意を奪うような、巧みなテクニックを使って設計されたものも多い。これは、人間の最も貴重な資産である「認知力」が剥ぎ取られていくようなものだ。

その能力を維持する最終手段として、人間の脳は 200 以上もの「認知バイアス」に頼りがちだ。これは記憶や信条、倫理、行動様式に対処するための「知能のショートカット」であり、より迅速な判断を行う助けになるが、それは不合理で、しかも当人には不利益な方法で行われることも多い。

デザイナーやエンジニアに共通する認知バイアスはデザイン プロセスに影響を及ぼし、クリエイターが最高の仕事を行うことを阻むことがある。例えば物理ツールやデザイン ソフトウェアを使う際、その基準は最適な選択肢かどうかには関係なく、最も慣れ親しんでいるツールやプリセットへ過度に依存してしまう。こうしたバイアスの下では、金槌を手にすると、すべてが釘に見えてくる。道具が思考を形作り、金槌があらゆるものに対する解決策となるのだ。

これに関連した認知のショートカットである「機能への固執」は、問題を解決するのは、そのために作られたツールだけだと考えてしまうバイアスだ。つまり金槌は釘を打つために作られたものであり、釘にしか使用してはいけないと考えてしまう。だが優秀なデザイナーや建築家、エンジニアは、自分の望むものを作るために、ツールを加工したり分解したりするものだ。ジミ・ヘンドリックスが自身のギターに「歌わせた」ように、達人は分野を問わず、ツールの用途を自らで決める。

コラボレーションの環境においては、複数のバイアスが重なることで、チームの生産活動への影響が増すこともある。「パーキンソンの凡俗法則」には、ありがちな落とし穴が隠されている。チームは最も困難な課題を回避する一方で、どうでもいい事柄に固執して、ムダなエネルギーを費やすことが多い。この「自転車置き場」とも呼ばれるバイアスは、原子炉設計という複雑なタスクを担ったチームが、原子炉そのものに取り組む代わりに、その技術者が通勤に使用する自転車置き場の設計に長い時間を費やすエピソードから名付けられたものだ。

チームが抱える最も複雑なタスクが「曖昧さの効果」により覆い隠されていることもある。これは不完全な、もしくは紛らわしい情報によって、チームメンバーが創造手段を検討しないまま放置してしまうことを指す。これは「権威バイアス」への依存につながることもある。このバイアスは、最も経験豊富な人物が不明な情報の詳細を伝えようと努め、残りのチーム メンバーは、別のアイデアがあったとしても、ただそれに従うのみとなることを指す。

ただし、こうした権威ある人物が「過去美化バイアス」の犠牲とならないとも限らない。以前にはうまくいった解決策が現在抱えている問題にも応用できると信じ込むよう、自分をごまかしてしまう。もっと悪いのは、ここに「専門的技能の錯覚バイアス」が加わり、ベテランが自分の知識を過剰に評価してしまう場合だ。

テクノロジーが、人々がバイアスを無効化し、認知資源を管理、保護、再生する支援に使用されるとしたら？

認知バイアスが有益に働くこともある。スタートアップの多くはモチベーション維持のため、途方もない困難に直面しても、すべてうまくいくと信じ込む必要があり、そうした状況で「楽観バイアス」 (希望的観測) に頼る傾向がある。また、例えば雲の中に人間の頭の形を見出すような、ランダムなものの中にパターンを見つける人間の脳の能力は、誤解を助長する創造手法によって増幅されることもある。例えば LUMA Institute のワークショップで教えられているラウンドロビン方式は、新しいアイデアを考え出す能力を向上させる。

この LUMA Institute の由来となっている「Look, Understand, Make, Advance (観察、理解、作成、前進)」プロセスなど、過去 100 年のデザイン手法は、バイアスの影響を打ち消し、さらに認知のショートカットを利用して、よりクリエイティブになるための経験から学んだ知恵だ。前述のラウンドロビン方式は、ダダイストとシュールレアリストによって 20 世紀初頭に開発された「優美な死骸」と呼ばれる制作プロセスから生まれたものだ。

今日、すべてのビジネス分野やマーケター、ユーザーエクスペリエンス デザイナーが、ダーク パターンを使って人々のバイアスを増幅させている。ダーク パターンとは、ユーザーエクスペリエンス専門家のハリー・ブリグナル氏が生み出した、悪意ある誘導テクニックを示す語だ。「ローチ モーテル」と呼ばれるダーク パターンは、入ることはできても出ることはできないというシナリオを示したものだ。フィットネスジムや Facebook からの退会を試みたことがある方なら、ローチ モーテルについて、よくご存じだろう。

オンライン メディアの空間では、人間が顧客でない場合も多い。むしろ人間と、そのかけがえのない認知資源は製品だ。機械学習はバイアスを増幅させるダーク パターンのトリックを増幅し、何億もの人々の心に対する「注意の否定」や「好奇心の否定」という攻撃を生み出している。スマートフォンやその他のコネクテッド デバイスの登場以来、生産性の数値が低下しているのは、これが理由のひとつなのかもしれない。

だがテクノロジーが、バイアスを増幅させ、拝金主義的な利益のために認知力を根こそぎ奪い取るのではなく、人々がバイアスを無効化し、認知資源を管理、保護、再生する支援に使用されるとしたら？

ノイズキャンセリング ヘッドフォンは、マイクを使って外部の雑音を検知し、電子技術により雑音を相殺する逆相の波形を生み出す仕組みになっている。では機械学習システムが、認知バイアスが起こるとリアルタイムで検知し、その悪影響の無効化に役立つと分かっているデザイン手法を組み合わせることで、バイアスの悪影響を軽減させられるとしたら？

Autodesk Research は、こうしたシステムの初期研究に着手している。研究チームは初期データ収集のため、クリエイティブ チームが陥りがちな罠や、デザイン プロセスでバイアスを無効化して時間の経過と共に認知資源を構築し、よりよい結果に至るために用いている技を理解するべく、優れたプロダクト デザイナーたちや、LUMA のようなデザイン手法協会の設立者、優秀な建築家にインタビューを行った。

そのひとりとなった、インダストリアル デザイナー兼作家のアイシェ・バーセル氏は、Deconstruction:Reconstruction (De:Re) と呼ぶ独自のデザイン プロセスを用いている。これは、イノベーティブな新手法で再構築できるよう、オブジェクトやコンセプトを構成要素へと分解するものだ。その一例で、彼女が手がけたハーマンミラー社のオフィス家具リゾルブは、オフィスのパーティションを舞台裏と表舞台を持つ劇場のように変化させている。

バーセル氏は、認知バイアスに真正面から取り組むことで、デザイナーとビジネス関係者の両方に、従来の家具とは大きく異なる考えをもたらした。製品のキックオフ、生産への移行など段階で、毎回手違いが生じる事柄をリスト化している。彼女の De:Re フレームワークの一部は、こういった不具合にパワフルかつ反復可能な方法で対処する。

この「認知ノイズキャンセリング フレームワーク」のプロトタイプ概要を作成するため、オートデスクの研究チームは、バーセル氏が用いる De:Re トリックを、それぞれ決定バイアス、記憶バイアス、社会バイアスへとマッピングした。このマップは、クリエイティブ チームのワークフローに認知バイアスが現れると、干渉を加える機械学習アルゴリズムの基盤を提案する。

デザインや作成ツールがクラウド ベースとなったため、オートデスクはこうしたツールを道具として活用し、非建設的な認知のショートカットをリアルタイムで感知する手法を模索できる。クリエイティブ チームが「何」をデザインしているかでなく、デザイン プロセスで彼らが「どう」考えているのかを検知できるのだ。声の高さや話し方のリズム、言葉の選択などの発声上の特徴、さらに身振りや表情など視覚上の特徴を検知できるテクノロジーもある。デザイン ツールや会議室、工場、建設現場で、こうしたデータを十分に記録して比較することで、システムは将来的に、こうした手がかりに応じて適切な認知バイアスを応用できるようになる。

カギとなるのは、チーム リーダーやファシリテーターが最良の方法で介入できるよう、またチーム メンバー全員が自らのバイアスに気付き、それに適応し認知を育む方法を学べるよう、認知バイアスの検知をどう扱うべきかを理解することかもしれない。

人間の意識を Fitbit にモニターするシステムは、少なくとも今の所は存在していない。理想としては、この研究から生まれたシステムが認知バイアスの判別機能を超越し、ある種のメタ認知の数量化された独立デバイスとして機能するようになることだ。つまり人々に、その考えの裏に潜む考えを示すのだ。

世界はますます複雑になり、自動化が進んでいる。未来の仕事が自動化によりどれほど奪われるのかは不明確だ。だが、人々が継続的に新しいスキルやテクノロジーを学ぶ必要があることは間違いない。仕事は豊富にあるが、その仕事には、より良いモノと世界を生み出すための、さらなる配慮とクリエイティビティが必要とされる。

認知力の調整、構築を超えて、この研究は人々が高い経済価値を得る可能性が最も高いスキルへの重点的な取り組みを支援する、生涯学習 API へと進化するのかもしれない。そうなればシステムは、予測的に認知資源を訓練および刷新し、次のキャリア ステップに対応できるよう、その人物の準備を整えることができる。

デザイナーとエンジニアは、スマート シューズからスマート シティまで、あらゆる次世代モデルに取り組んでいる。彼らの取り組みには、これまで以上により多くの配慮や理解、クリエイティビティ、複雑な決断を扱う能力が必要となるだろう。そのためにも、認知力を消耗させるのでなく、育てるテクノロジーが必要となる。

この記事はコーネル大学博士課程のネタ・タミール氏と共同執筆したものです。