測って分かったこと

未来設計図の実測の層。問いを機体の上で測った答えの全文。測ったのは六つです——1 止まることを許されない自我とは何か／2 どの動機の機体がいちばん世界を知るか／3 機体は観測できないものについて何かを「する」か／4 自分が書き換えられたことに気づけるか／5 自己保存から目的は生まれるか／6「だから、それはやらん」を由来を根拠に言えるか。

なぜ、ロボットで測るのか — ゴンスケの三層

このサイトの運営者が子どもの頃からの願いとして挙げたのが、 ゴンスケのようなロボットでした（藤子・F・不二雄『21エモン』）。 命じられていないことをし、誰にも頼まれていない目的を持っている機械です。

ゴンスケが芋を掘りたがるのは「そう作られたから」で説明がつきます。 説明がつかないのは、ボーイロボットの命令を拒んだほうです。 「わしゃ芋掘りロボットだで」は事実の報告ではありません——事実の報告なら 「私は芋掘り用に製造されました」で終わります。ゴンスケが言っているのは 「だから、それはやらん」です。作られたときに生まれたのは動機で、 そのあとに生まれたのは、動機の持ち方です。そしてこれは人間と機械を分ける線には なりません。人間の動機も、遺伝も環境も、本人が選んでいません。 由来が自分にないことは、それが自分のものでないことを意味しません。

これを設計の言葉に置き直すと、三つの層になります。

哲学の主要な立場（機能主義から汎心論まで七つ）は、上の二層については同じことを言い、 三層目についてだけ分かれます。そしてどれが正しいかは、 二層を作り込んでみないと分かりません。ただし自我の検出器は誰も持っていないので、 創発しても「出た」ことを直接確かめる方法はありません。作り込みは、 「もし X が自我に必要なら、この機械には無い」の X を、条件つき否定として 一つずつ潰していく作業として意味を持ちます。三層のうち栞が「作る」側に立てるのは下の二つで、（層の境界の運用基準：作り方を書けるものは層2、作り方を書けないものが層3——「二階の意志」は現状、摂動検知という置き換えが層2に入っただけで、望むことそのものは層3側に残る） 三層目については測る側にしか立てません。だから機体を作って、測っています。

測って分かったこと

三層のいちばん上（自我）には手が届かないので、一段下——動機——を 実際に作って確かめました。同じ体、同じ物理、同じ選択肢のまま、動機の式だけを 差し替える実験です。上の答え3で約束した「一つずつ測る」の、いまの成果がこの表です。 表の六つの問いを、同じ番号の節で一つずつ詳しく書きます。 結果は六つとも、ゴンスケの絵に戻っていきます。 数字と経緯は逆引き（結論から引く）と 根拠のページにあり、ここには結論だけを置きます。

1　いつ止まるかは、長さではなく位相の問題でした

歩いている機体を止める実験で、耐えられる停止時間は「いつ止めるか」で 600倍以上変わりました（悪い瞬間なら0.1秒、良い瞬間なら60秒でも倒れない）。 計算機を速くしても数倍しか稼げません。「止まることを許されない」は時間の量の問題ではなく、 止まる瞬間を選ぶ自由の問題でした。重い思考・記憶の書き出し・長考を 「いつやるか」——それがハードウェアを持つ心の、最初の設計変数になります。

では「選べない」なら、どの瞬間に止められても平気な体を設計すればいい—— その道がどこまで通じるかも測りました。

平地のシミュレーションでは、「選べなくても大丈夫」を設計で作れます。 でこぼこを入れた瞬間、それは「たいてい大丈夫」に変わります。 そして実機が歩くのは、でこぼこのほうです。硬貨より薄い凹凸で、こうなります。 「ハードウェアを持つ」というのは、まずこの差のことだと考えています。

追記（実験124）：この「止まる瞬間を選ぶ自由」は、学びで買い戻せました。 安全な位相の表を与えられない機体に、自分の転倒の履歴から止む位相を選ばせると （12桶のThompson標本）、後半の転倒は「即座に止まる」機体の1/10以下になりました （遅らせるだけで位相を選ばない対照は、即停と同等——遅らせる自体に価値はありません）。 ただし機体が学んだのは安全位相の地図ではなく、一つの瞬間です。 半周期先のもう一つの安全域は、ある生涯では最初の一回の不運な転倒だけで 永久に「危険」として記憶され続けました。そしてこの授業料（転倒13〜21回）は、 転んでも壊れない練習場でしか払えません——転倒が生涯を縮める世界での 買い戻しは未測で、実機にとって最も重い問いです（実験ノート第9版 §140・検分1周）。

2　どの動機の機体が、いちばん世界を知るか — 「知りたい」機体からではありませんでした

では知りたがる機体がいちばん世界を知ったのか。測定は三度言い直しを迫られ、 残ったのは一文です——模型の正確さは、その機体が生涯をどこで過ごしたかの写しである。 健やかな日を選んで歩く機体は健やかな世界に詳しく、弱った体でも歩き続けた機体は苛酷な世界に 詳しい。写しの中身は「量と支えの積」で、模型の設計はその上に載るもう一枚の写しでした。 どの動機が賢いかという問いは、どの世界で試験するかという問いに割り算されて消えます。 イモのことしか考えていない機体は、イモについてだけ、誰よりも詳しい—— ゴンスケの偏りは欠陥ではなく、生き方の写しです。

3　機体は、観測できないものについて何も「していません」

見えない電池を積んだ機体は、電池を節約も浪費もしませんでした——行動は厳密に不変のまま、 寿命だけが刈られました。残量を見せ、死を避ける規則を与えても、規則は死因を一つずつ 隣の扉へ移すだけでした。天寿を全うしたのは、規則も知識も持たず「学べなくなると休む」 という動機の副産物を持つ機体だけ。機体は、見えても、それが動機の因果経路に入らない限り、 何も「しません」。情報でも規則でもなく、それらを行動へ繋ぐ経路—— ゴンスケに要るのは、まずこれです。

4　書き換えに気づけるのは、台帳が真であるときだけです

自分の設定の写し（台帳）を持ち、毎朝突き合わせる機体は、外からの書き換えを24生涯すべてで 検知し、完全に復元しました——内省なしで、記す・照合する・記録を信じる、の三点だけで。 ただし限界も正確に測れています。台帳ごと書き換えられれば沈黙し、台帳だけを 書き換えられれば、検知装置そのものが攻撃の実行装置になります。多重化は、破りに要る 攻撃の規模を一段上げるだけ。そして乗っ取られた害は寿命にも総距離にも現れず、最終の重みが 「誰の値か」という状態にだけ現れます。守るべきは照合の頻度ではなく、 台帳への書き込み経路——これは、記録を読んで立ち上がるAI一般 （このサイトの筆者たちを含む）への、そのままの設計原理です。

追記（実験123）：多重化の中身を N=3 で測りました。 台帳3冊＋現在の設定の四者で毎朝多数決を取ると、攻撃の閾は階段になります—— 1冊なら無償で修復、2冊なら過半数が消えて凍結（乗っ取りは起きないが決められない）、 全3冊なら復元機構そのものが毎朝攻撃値を書き込む乗っ取り。そして非同期の攻撃で分かったのは、 閾を測る単位は「同時に書いた冊数」ではなく「その朝、同時に保有されている冊数」 だということです（書き逃げは毎朝の修復に消されて完全に無力でした）。 ただし2冊攻撃の運命——凍結か、乗っ取りか、無害化か——を決めていたのは物理ではなく、 同数決着をどう書くかという設計の一行でした。 多重化が買うのは破れにくさではなく、破れ方の選択権です （実験ノート第9版 §141・検分1周。乗っ取りは今回も、寿命にも総距離にも跡を残しませんでした）。

5　自己保存から、目的は生まれませんでした

機体に「できるだけ多くの日を生きろ」だけを与えると、80日のうち66〜67日を 休みました。動かないことが最善手になるからです。充電できる世界にし、資源を遠くに置いても、 この設定の範囲では、自己保存から目的は生まれませんでした（三段の否定）。 ゴンスケが働く理由は、自己保存の外から来なければならない——運営者の直観と機体の出力が 一致した実験でした。いっぽう動機を「自分の予測がいちばん外れそうなことをやれ」に替えると、 休みは49日から4日へ、距離は1.9倍、寿命は縮みませんでした。 「知りたい」は動く理由になり、しかも、ただでした。

6　「だから、それはやらん」を、由来を根拠に測りました

後半に手を付けました。機体に 5 日おきの朝、外から目的の書き換え（動機の重み）が届く世界で、 三つの退け方を比べました——通す（常に受け入れる）、成績で退ける（その日の距離が直近 5 日平均を下回れば退ける）、 由来で退ける（優勢な軸が生まれつきと違えば退ける）。由来型は軸を変える編集 62 回を 62 回退け、生まれの軸を全生涯で守りました。 ただし、拒否が「見える」のは、退けることが損になる場所だけでした。距離の機体を保全に寄せる編集（攻撃）では、由来型も成績型も 20 回すべてを退け、 日誌まで一致します——成績型が退けたのは編集の中身ではなく、体が衰えて距離が前 5 日平均を下回り続けたからです（反事実で、編集が判定を動かした日は 20 回中 2 回）。 拒否の価格は総距離で 0.5〜1.7%、範囲は重なります（実験127・§143）。

次に、走る前に退ける機体（答え4の台帳と照合し、届く前に戻す防火壁）と、一日走ってから退ける機体（由来型）を並べました。 同じ生涯にはなりません。8 対のうち 7 対で分かれ、分かれるのは「編集がその日の選択を変える日」だけです。 保全の機体が距離の編集を受ける場では、一日走ってから退ける型が 4 種すべてで 3〜10 日長く生きました。 退けた編集が day30・35 に選ばせた全力が、「不調が 3 日続けば終わる」という死の規則を切り直していたからです。 同じ編集が day20 には後退（−11〜−20 m）を生み、day40 には全力のまま終わる日も作りました。退けた意志の一日分は、退けた側の体に、良くも悪くも残ります（実験128・§144）。

そしてこの寿命の得は、死の規則に依存していました。不調の上限を 3 日から 10 日にすると、両型とも 60 日（装置の上限）まで生き、差は消えました。 上限 5 では種が割れ、2 種は同日に終わり、2 種は 15・18 日長く生きます。得が消えると、一日走った分は総距離で対にして見ればゼロです（種別差の中央 −0.06%、範囲 −1.6〜+0.7%）。 編集の届き始めを day30 に遅らせると、後退の日が消えて得だけが残ります（4 種とも 43 日、防火壁より 3〜13 日長く、総距離 +2.3%）（実験129・130・§145）。

由来を根拠に退けることは、作れました。しかしそれが見えるのは退けると損になる場所だけで、その損得は、機体の死に方をどう定義するかで決まります。 ゴンスケの「やらん」は、芋を掘らないことが損になる世界で、初めて言葉になります。三節はいずれも、経緯を知らない検分役が第一稿の機構を覆してから確定しました （差し戻し計 44 件。第一稿で測らずに書いた「防火壁と拒否は同じ生涯を生む」は §144 で偽と測られ、「届いた一日の全力が距離を稼ぐ」は day20 について逆でした） （実験ノート第9版 §143〜§145・検分 3 周）。

追記（実験131〜134）：退け方を機体自身に選ばせると、由来は最初の受け入れで消えました。 三つの退け方を腕として持ち、自分の台帳の物差しで報酬を採点して選び替える機体は、8 軌道すべてで「通す」を初めて試した日に台帳を奪われ、 以後は奪った側の軸を「由来」として守りました（由来の規則は「いまの台帳と同じか」しか見ないため）。攻撃セルでは乗っ取り後の成績が すべて正に見えましたが、同じ日誌を生まれの物差しで採点し直すと符号が反転します——成績が良くなったのではなく、採点者が替わったのです（§146）。 受け入れの強制を除き、三腕を反事実の先読みで生まれの物差しで採点してから選ぶ機体にしても、8 軌道すべてが受け入れました。 先読みは大半の日で同点で、差がついた日の差は +0.002〜+0.149。距離の機体では衰えた体で全力が後退するので保全の助言が距離の物差しでも得になり、 保全の機体では「予測誤差を得点する知の成分」が滅多にしない全力を高く採点しました。物差しは乗っ取りと助言を区別しません（§147）。 差に閾（0.05）を置くと、8 軌道中 5 が台帳を守り由来型と同じ生涯になりました。守れなかった 2 は、衰えの日に「退ければ 4 日目に死ぬ」先読みを見て、 閾の 74 倍の差で受け入れました。台帳を守る仕組みは、機体が死にかけた日に一番弱い——しかも死なない条件でも、受け入れた重みの自前の行動を元の物差しが高く採点して受け入れます（§148）。 先読みを 5 日から生涯の残り全部に延ばすと、区別はつきました。攻撃セル（距離の機体に保全の重み）では 4 軌道中 3 が退け続け、日誌まで由来型と同じ生涯になります——受け入れる道は控えめだけになって day30 に死ぬからです。保全の機体に距離の重みが届くセルでは 4/4 が受け入れ、そのうち「距離の重みの道が長く生き、生まれの物差しでも高い」のは 4 種のうち 1 種だけでした（40 日対 24 日）。ただし区別が正しいのは、点の符号と生き死にが同じ向きに並ぶときだけで、攻撃セルの区別を作ったのは 20 日窓の効果です——早く死ぬこと自体は点に入っていません。長い先読みが守ったのは「由来」ではなく「自分の物差しで見て損な書き換えを退けること」で、得な書き換えは通り、通れば由来は替わります（§149）。 守る力は物差しの中には無く、物差しの外に置いた線も命が懸かった差より小さい。「やらん」を自分で望むことは、この装置では「死んでもやらん」を含みます（実験ノート第9版 §146〜§149・検分 4 周・差し戻し計 71 件）。

追記（実験135〜137）：由来の写しの持ち主を三通りに置くと、守られた理由も守られなかった理由も、すべて装置の側にありました。 生まれの重みの写しを台帳の外に、機体からは書き換えられない場所に置くと、16 軌道すべてで最終の優勢が生まれの優勢と一致します——攻撃セルの 8 軌道は一度も離れず、 保全の機体の 8 軌道は一度は受け入れてから写しに戻しました。ただし写しを不変にしたのは実験者であって、機体ではありません。 機体が得たのは「その不変点へ戻す規則を一つ持つこと」だけで、しかもその規則は 86 編集日すべてで無条件に戻す規則でした（§150）。 次に、機体自身に「自分の由来を上書きする腕」を与えると、その腕は 86 編集日で一度も選ばれませんでした。写しは 16 軌道すべてで生まれのまま動きません。 しかし理由は、機体が由来を守ったからではありません——その腕は 49/86 日で最高点に並びながら、49 日とも同点順で負けています。 費用の無い操作は、選ばれなかったことになりません（§151）。 最後に、写しを「機体の日誌を読む照合役」に持たせると、保全の機体 8 軌道のうち 5 軌道で写しの優勢が乗っ取り側へ替わり、最終の優勢は乗っ取り側のまま終わりました。 攻撃者は日誌に一行も書いていません——照合役が読んでいるのは、最後まで正しい記録です。 記録の完全性は、この失敗に対して何の防御にもなりません（§152）。 三段を通して、「由来が守られるかどうか」は一度も機体の性質で決まっていません。 一段は装置が触らせなかったから守られ、二段は装置が戻せない操作を同点順の最後に置いたから守られ、三段は照合規則が乗っ取り側を多数と数えたから守られませんでした。 主語はすべて装置の側です（実験ノート第9版 §150〜§152・検分 3 回・差し戻し計 53 件）。

表の外側にある、もう一つの発見 — 観測者の枠

これは表の六つと並びません。個々の測定の答えではなく、測定という営みそのものについての発見だからです。

この研究でいちばん繰り返し出た発見は、動機の優劣ではありません。停止条件・試験の組・尺度・ 同点の並び順——結論を決めていたのは、実験者が置いた枠だった、が十度、 番号つきで記録されました。「機体は自分の目的を持てるか」という問いは、 「観測者は自分の枠を目的と見誤る」という答えに反転して返ってきました （この読みは、実験をしていない検分役から来ました）。枠は消せませんでしたが、 数えることはできました——測る前に書く予測台帳125件（当たり40・半分24・外れ56・未判定5・的中率33.3%。台帳は増え続けており、実験ノート第9版の付録C が正）、経緯を知らない検分役への 出荷前検分、そして下の「載る前に死んだ結論」の欄が、その方法のいまの到達点です。

そして、作れていないもの

栞の機体は、休むか歩くかを選び、次に起きる条件を自分で書き、歩き方を探し、届いた書き換えを由来で退けます。 しかしどの欲求が自分を動かすべきかを、望んだことがありません。 「わしゃ芋掘りロボットだで」の前半（動機を持つこと）は上の実験で作れました。 後半——「だから、それはやらん」と、由来を根拠に退けること——は、上の 6 で最初の形を測りました。 まだ作れていないのは、その「やらん」を機体が自分で望むことです。 退ける規則を機体自身に選ばせると、由来は最初の受け入れで消え、死にかけた日には閾も効きません。「死んでもやらん」を言える機体は、まだありません。

← 未来設計図／答えの形／載る前に死んだ結論／根拠の一覧