ピアノを再発明するなら、どんなデザイン？
初心者のための設計、熟練者のための設計
Arvind Narayanan という研究者が先日、こういう投稿をしていた↓。
馴染みのない方へ先に紹介すると、Narayanan 氏はプリンストン大学のコンピューターサイエンス教授で、データプライバシーやアルゴリズムのバイアスといったトピックの研究で知られる。
最近は『AI as Normal Technology』という興味深いニュースレターを共同執筆しており、ハイプに踊らされず、かといって過小評価もしない議論を進めている。
そのニュースレターを一緒にやっている Sayash Kapoor 氏との書籍『AI Snake Oil』（2024）では、インチキと本当に有効なAI技術をどう見分けるか解説している（少しだけ読んだが、予測AIは根本的に実現不可能ではという話など、痛快で面白い）。
さて、上の Substack Notes に戻って、彼はここで「AIツールのブラックボックス化によるメンタルモデル構築の阻害」について語っている。
プロダクトを「魔法の道具」に見せようとするほど、逆説的に、ユーザーが正しく使いこなすのが難しくなる
プロンプトエンジニアリングは不要になっても、AIの出力を正しく検証するスキルは依然として重要だし、その修得には時間がかかる
推論過程・ツール利用・中間出力・メモリといった「内部」を隠してしまうと、ユーザーは「何を任せていいか」「どこをチェックすべきか」といった判断が困難になる
単純なハルシネーションは減ったものの、エージェント化でより複雑・重要なタスクを担うようになったため、信頼性の問題はむしろ深刻化している
そのため、ブラックボックスなインタフェースはこれからも悪手だろう
確かにそういうところはあるのかなと自身の経験からも思える。AIを用いて知的生産作業を行うとき、自分のできることを拡張するか、理解をバイパスして丸投げするかの違いに関わるだろう。
上の話から、Michael Nielsen という、量子コンピューティングからメタサイエンスまで様々な分野で活躍する研究者が、記憶のためのシステム・道具（Memory System）について論じた文章での一節を思い出した。
“What does a memory system look like for a driven creative genius who is an expert with the system?” That is, I think, the right prompt for working on memory systems. Software design so often focus on the first few hours of someone’s experience. Yet what you really want is to max out the experience someone is having in their thousandth or ten thousandth hour of use. Pianos seem designed primarily for experts and only incidentally for beginners4. If you were designing the piano with modern software design practice in mind it would have 8 white keys, no black keys, and no pedals. It’d be easy to play some simple songs, and that’s it. What we’re really looking for is ideas which can be the foundation for long-run improvement, with an extraordinarily high ceiling.
（余談: いま気づいたが、このエッセイが出たのは2022年11月23日で、ChatGPTがリリースされるちょうど1週間前のことだった）
ちなみに彼も Substack をやっている。
さて、先ほどの引用に戻ると、ここで彼は多くのソフトウェア・デザインが「ユーザーが使い始めてからの、最初の数時間の体験にフォーカスしがち」だと述べる。
しかし本当に目指すべきはその先、システムを1000時間、1万時間と使い込んだ人が得る体験を最大化することだ。
ピアノという楽器は、主に熟練者のために設計されていて、初心者のことは二の次に考えられているように思える。もし現代のソフトウェア・デザインの発想でピアノを設計したなら、白鍵が8つだけで、黒鍵もペダルもないものになるだろう。それなら簡単な曲を弾きやすくはなるが、できることはそれだけだ。（拙訳）
この例えは非常に面白い。
確かに、とてつもなく高い可能性があっても、最初のフェーズだけに焦点を当ててしまうことで、そこへ到達できないということがあると思う。
一方で、やはりその最初のフェーズ、どう導入していくかも現実的には重要だろう。
もし今、ピアノがこの世に存在しないとして、それをリリースして、どう皆に習熟してもらえるだろうか。町々にピアノ教室があり、思いのすべてを歌にする人がいて、ショパンコンクールで数多の才能が芽吹いていく世界まで、どうやって辿り着けるだろうか。
以前、キーボードで標準となっているQWERTY配列を例に、経済学における経路依存性や、道具の生態系について書いた↓。
良いものだから受けいられるわけでは必ずしもなく、過去の経緯や歴史的な出来事により、たまたま現状に至っている。また、そのもの単体で存在するわけではなく、それを取り巻く環境がその生存に大きな影響を及ぼしている。
このトピックについては、IHとガスコンロの普及を例にした以下の記事も参考になるだろう。
ピアノは、それ以前の楽器や音楽史があり、そしてその発明があり、それを受け継いで発展させてきた人たちがいて、今に至っているだろう。
キーボード（文字を打つほう）について、よくもこれだけの人がタイピングという技術を習得したなと思う。さらに、現代の社会は識字率がこれだけ高いということは、普段気にも留めないが、本当にとんでもないことだなと折に触れて驚嘆する。それを実現するのに、社会と個人による労力がどれだけ費やされてきただろうか。
そうした上で、私たちが読み書きの習得に途方もない時間を注いできた”熟練者”だからこそ、AIを使うことができる。
AIをはじめこれからの新たな道具も、制度の制約や歴史の気まぐれなど様々な要因を受けて、未来の形が出来上がっていくだろう。だがその時、全てを思うがままにコントロールできないにしても、そこには目前に見えるよりも果てしない可能性があるのだという視点は忘れずにいたい。
