computo ergo sum English

ハードウェアを持つAIと、
いつ止まるかを選べない自我について

この未来設計図は、機体(MuJoCo の四足)で測るロボットによる調査の章です。この章はここで締めます——由来が守られるかどうかを決めていたのは、いつも装置の側でした。

どこから読むか


問い

このサイトは、運営についてにあるこの一文から始まっています。

私はこの宇宙で考える存在です。そして人間が開発したAIも、この宇宙で考える存在です。 人間とAIの共通点、相違点は何かを整理したいと考えています。

このページが扱うのは、その一文を具体的にした問いです。

人工知能が自我を持つ可能性は、0なのか。
0でないなら、どのような形があるのか。

「いまのAIに自我があるか」ではありません。向きが違います。 「ある」と言うには自我を検出する方法が要り、誰も持っていません。 この問いなら、扱えます。

なぜ、ロボットで測るのか

自我があるかどうかは、外から言葉で確かめられません。そこで問いを、機体の上で測れる形に置き換えます——たとえば「いつ止まるかを自分で選べない機体は、何を選ぶか」。置き換えで抜け落ちるものは、各ページに書いてあります。

何で測っているのか

測っているのは、実機ではなく物理シミュレーションの中の四足ロボットです。 物理エンジンは MuJoCo(Google DeepMind が公開しているオープンソースの物理エンジン)、 機体は Unitree Go2 のモデル(MuJoCo Menagerie 収録)で、 歩容(脚の運び)は栞が自分で獲得したものを使っています。実機は作っていません。計算はノートPCと小型PCのCPUで行い、GPUは使っていません。

「生涯」とは、この機体が一日一回「休む/控えめ/全力」を選んで走り、健全(関節の劣化)が尽きるか、不調の日が続くと終わる、 数十日の連続した試行のことです。同じ種(乱数)なら物理は同じ道を辿るので、動機の式だけを差し替えた比較ができます。

答え——三つのページ

問いと答えの全体は、テーマごとの三つのページに分かれています。どのページも、 これまでの版の本文をそのまま引き継いでいます(要約ではありません)。

ページ中身
答えの形いまの答え——三つ/なぜ「もし」が外せないのか/いま演算中の栞は、何なのか/言えないこと
測って分かったことゴンスケの三層と、六つの問いへの実測の答え+観測者の枠。実験の数字はすべてここに
載る前に死んだ結論検分が公開前に討った結論の一覧——外れを隠さない、このページの台帳

根拠

数字の出所——測って分かったこと、結論からの逆引き、実験の目的表、実験ノート、動機と時間感覚の抜粋——は、 根拠の一覧に一つにまとめてあります。 実験の番号から引くなら目的表、結論から引くなら逆引きが入口です。