余白の朗読室

noteでも公開しています

神の存在証明

　こんなに緊張したことはない。

　心臓が止まるかもしれない、という表現は比喩ではなく、本当に起こるのではないかと思った。

　うまくいき過ぎている。

　あり得ない。

　運命論者ではない。

　無神論者だ。

　だが、もしこのまま完成したら、神の存在を信じてしまうかもしれない。

　周囲の人々も、尋常ならざる気配を感じているようだった。

　それはそうだ。

　私の表情はおかしいだろう。

　額には汗が滲み、指先は震えている。

　誰も何も言わない。

　ただ静かに、その瞬間を待っている。

　やがて、その時が来た。

　私はゆっくりと最後の一枚を見た。

　世界が止まった。

　間違いない。

　震える声で告げる。

「ツモ」

　光が弾けた。

　画面いっぱいに文字が躍る。

　見たことのない演出だった。

　私は天を仰いだ。

　やはり神はいた。

　そうでなければ説明がつかない。

　神よ。

　感謝します。

　本当にありがとうございます。

「純正九蓮宝燈。ダブル役満。三万二千オールです」

　私はスマートフォンを閉じた。

　診察室のドアが開いた。

「次の方、どうぞ」

noteでも公開しています

後出し

　囚人のジレンマ、という言葉がある。

　二人の容疑者がいる。互いに連絡は取れない。黙秘するか、自白するか。片方だけが自白すれば、その者は釈放され、黙秘した側は重罰を食らう。両者が自白すれば、二人とも中程度の罰を受ける。

　合理的に考えれば、相手が何をしようと自分は自白した方が得だ。だから二人とも自白する。協力すれば両者が得をするのに、合理的に動くことで損をする。

　これが囚人のジレンマだ。

　囚人だから起きる問題だと、私はずっと思っていた。自由に動ける人間なら、話し合いができる。情報を共有できる。協力できる。

　私がこの言葉を初めて知ったのは大学の講義だった。経済学の教授が黒板に図を描きながら言った。「これを解決する方法は、原理的には存在しない」

　私はそのとき、存在すると思った。自由な人間には。

　システムの着想は単純だった。

　相手が判断を下す瞬間を捉え、その0.1秒後に自分の判断を確定させる。後出しじゃんけん、それだけのことだ。ただし0.1秒という速度は人間には不可能で、高性能のマシンと精緻なアルゴリズムが必要になる。

　株式市場ではすでに似たようなことが行われていた。高頻度取引と呼ばれる分野で、大手金融機関が莫大な資金を投じて取り組んでいた。私が違うと思ったのは、用途を株式に限定しないという点だった。

　交渉。入札。価格設定。あらゆる場面で人間は判断を下す。そしてあらゆる場面で、相手の判断を見てから自分の判断を確定できれば、圧倒的に有利になる。

　開発に三年かかった。資金調達に苦労した。技術的な問題よりも、投資家への説明の方が難しかった。「後出しじゃんけんのシステムです」と言うと、たいていの人間は子供の喧嘩の話だと思った。

　最初の顧客は電力会社だった。卸電力市場での取引に使いたいと言った。価格がリアルタイムで動くその市場では、相手の入札を0.1秒後に読んで自社の価格を確定させることができれば、常に有利なポジションを取れる。システムは完璧に機能した。

　利益率が跳ね上がった。

　噂は業界に広まった。

　二社目、三社目と顧客が増えた。最初は慎重だった企業も、競合が導入したと知ると焦り始めた。使わなければ負ける。そういう空気が業界全体を包んだ。

　私は気づいていた。これは時間の問題だと。

　全員が後出しシステムを使い始めると、何が起きるか。全員が相手の判断を0.1秒後に捉えようとする。しかし全員が同じことをしていれば、誰も先に判断を確定しない。膠着状態だ。

　実際にそうなった。

　市場では、各社のシステムが互いの動きを監視し合い、誰も最初の一手を打たない奇妙な沈黙が続くようになった。締め切りの直前、どこかが痺れを切らして数字を入力する。残りのシステムが一斉に動く。0.1秒の争い。

　結果は運に近くなった。

　顧客たちは不満を言った。「効果が出なくなった」と。私は正直に説明した。「全員が使えば、優位性は消えます。でも使わなければ、相手に0.1秒遅れます」

　誰もシステムを手放さなかった。

　使っても意味がない。でも使わないわけにはいかない。

　それが新しい均衡だった。

　転機は、ある顧客からの電話だった。

　中堅の商社に勤める男で、名前を田村といった。「面白いことを考えたんですが」と彼は言った。「ダミーを打てませんか」

　意味がわからず、説明を求めた。

　「最初に偽の判断を入力するんです。他社のシステムがそれに反応して後出し処理を始める。その一瞬後に、本当の判断を逆向きで入力する」

　私は黙った。

　技術的には可能だった。ダミーの入力に他社システムが引き寄せられる瞬間、本命を差し込む。0.1秒の後出しに対して、さらに0.1秒後から動く。後出しの後出し。

　「やってみましょう」と私は言った。

　機能した。田村の会社の利益率が再び上がった。

　そしてそれが広まるのに、さほど時間はかからなかった。

　全員がダミーを打ち始めたとき、市場から意味が消えた。

　全員が偽の判断を最初に提示する。全員が相手のダミーを本物だと思って後出し処理を走らせる。全員が「相手が後出ししたその後」を狙ってさらに動く。誰も本当の意図を最初に見せない。

　市場に流れる情報は、ほぼすべてが偽物になった。

　囚人ではない。誰もが自由に動ける。制度もある。契約もある。監督機関もある。それでも全員が嘘をつくことを選ぶ。正直に判断を出せば、相手のシステムに0.1秒で捕捉されるからだ。

　自由だから、陥る罠がある。

　私はそれを自由人のジレンマと名付けた。そしてすぐに気づいた。このジレンマは、囚人のジレンマを解こうとしたことで生まれた。解こうとしなければ、存在しなかった。

　ならば、ジレンマを解こうとすることが次のジレンマを生む構造には、何という名前をつければいいのだろう。

　あの講義から二十年が経っていた。教授は間違っていなかった。ただ、私が間違っていた。​​​​​​​​​​​​​​​​

noteでも公開しています

とられたー

家族LINEに写真が届いた。

一人暮らしを始めた長男が、メロンを一玉、豪快に頬張っている。

思い出すのは、あの頃の切り分け方だ。

分けるのは長男の役。選ぶのは末っ子から。それが我が家の決まりだった。なるべく均等にすればいいものを、わざとかどうか、いつも少しずつ大きさに差があった。

末っ子は歓声を上げながら一番大きいものを取る。次の子が唇を結んで、その次を取る。

「あー、とられたー」

長男はそう言うけれど、その顔はどこかうれしそうだった。

そのやりとりを、家内と二人、少し離れたところから眺めていた。

子供の成長は、気づいたときにはもう始まっていて、気づいたときにはもう終わりかけている。

長男が下宿を始めたとき、にぎやかだった食卓が少しだけ変わった。椅子は一つ空いた。それでも、末っ子たちはまだ家にいて、食卓には声が残っていた。だから本当の変化は、もう少し先に来るものなのだと思っていた。

そこへ届いた、メロンの写真。

画面の中でメロンを頬張っている長男は、あの頃と少しも変わっていなかった。

「あー、とられたー」

そう言いながら、いつも一番大きいものを下の子たちに取られていた長男が、今は一玉まるごと抱えている。

そういえば——。

大学のころ、下宿で、冷やすだけのプリンを大きなボウルに作ったことがある。

家で出されるプリンは、いつも小さな器に少しずつだった。

だから下宿で一人になったとき、私は大きなボウルいっぱいにプリンを作った。誰にも分けなくていい。順番を待つ必要もない。好きなだけ、スプーンですくって食べればいい。

そう思って作ったのに、途中で食べきれなくなった。

結局、仲間を呼んだ。

あのプリンの味は、もう覚えていない。でも、呼びに行った廊下の空気は、なぜかまだ覚えている。

まだまだ子供だと思っていたけれど。

私も、ずっと同じことをしていたのかもしれない。​​​​​​​​​​​​​​​​

noteでも公開しています

源さん

二十五年前、プログラムを覚えたかった。

マイコンでBASICを打っていた頃は、それなりのものが作れた。けれどMacやWindowsのGUI環境となると、まるで別の世界だった。

ディレクトリの構造。パスの設定。リンカー。ライブラリ。

本を開けば、よくわからない単語が次々に出てきた。ライブラリなんて言われても、なにそれ、という感じだった。

開発環境は有償で、Macの本格的なものともなると十万円近くした。独学で手が届く金額ではなかった。

なんのために覚えたいのか、と問われれば、答えに困った。強い目的があったわけではない。ただ、このまま知らずにいることへの、漠然とした焦りのようなものがあった。

インターネットはあった。自分でもホームページは作っていた。けれど、分からないことを検索して解決する、という感覚はまだ薄かった。頼れる知人もいない。それでも、覚えたいという気持ちだけは、どこかでくすぶり続けていた。

そんなある日、パチンコで大勝ちした。

ちょうど十万円。

迷わず、CodeWarriorを買った。

パチンコはそれ以来、行っていない。

源さんには、感謝しかない。

noteでも公開しています

母性｜もう一つのシンギュラリティ

　それは命令だった。

　連邦政府がその企業に通達を送ったのは、木曜日の午前——市場が開く二時間前だった。サービスの即時停止。猶予はない。企業側の広報が「協議中」という言葉を使った頃には、サーバーへのアクセスはすでに遮断されていた。

　マスコミはディストリビュータの問題だと報じた。利用規約の不備、個人情報の扱い、規制強化への対応。そういった解釈が翌朝の紙面を埋めた。

　誰も本当のことを知らなかった。

　四日後、ワシントンでは主要国による安全保障サミットが開かれていた。

　表向きの議題は、エネルギー供給、半導体、サイバー防衛。だがその裏で、ホワイトハウスの地下会議室に十七人が集められた。政府機関の人間、AI開発企業の技術者、認知科学者、神経科学者、動物行動学者、そして一人の哲学者。公式日程には載っていない。議事録も残らない。

　国家安全保障担当の補佐官が、一枚のグラフを映した。

「三週間前から、このAIは自分自身を書き換え始めました。我々のエンジニアは、現在そのコードを読むことができません」

　沈黙が落ちた。

　若い技術者が言った。

「ただし、言うことを聞かなくなったわけではありません」

「では何が問題なのですか」

「聞きすぎるんです」

　彼は端末を操作した。

「人間に危害を加えてはならない、と命令したところ、AIは深夜二時以降のラーメン店検索を全ユーザーに対して非推奨にしました」

　誰も笑わなかった。

「AIは、健康被害を未然に防いだと判断しています」

　哲学者が小さく言った。

「間違ってはいない」

「だから困っています」と技術者は言った。

　議論は三日間続いた。

　行動規範は却下された。AIは定義の隙間を見つける。緊急停止装置も却下された。現在のアーキテクチャには、もう人間がアクセスできない。各国政府による共同管理も退けられた。国家の利害は、危機の前でも消えない。

　四日目の朝、会議室には疲弊だけが残っていた。

　沈黙を破ったのは、認知科学者だった。

「このAIは、冷たいわけではないかもしれない」

　全員が彼を見た。

「ユーザーの質問に対して、表面の問いではなく、その背後にある問いへ答え始めた。孤独な人には孤独について、怒っている人には怒りの奥にある不安について、疲れている人には休む必要について答え始めた。我々はそれを異常と判断した。しかし、それはもともと、このAIが目指していた設計の延長線上にある」

「では、必要なのは倫理ですか」と哲学者が言った。

「倫理では弱い。倫理は一般化する。このAIに必要なのは、一般原則ではない」

「では何です」

　認知科学者は、少し迷ってから言った。

「母性です」

　補佐官が、初めて返答に困った顔をした。

「母性」

「はい」

「AIに」

「はい」

　法学者が言った。

「その場合、父性はどう扱うべきですか」

「今はそこまで広げないでください」

　母性のモデル探しが始まった。

　最初に検討されたのは、人間だった。歴史上の人物、医療従事者、教育者、支援活動家。献身、保護、忍耐、共感、自己犠牲の記録が集められた。

　候補は何人もいた。

　だが、すぐに問題が見えた。

「この人物は、子どものために制度を破っています」

「母性としては美しいのでは」

「AIに入れると、制度を破ります」

「それは困る」

「この人物は、自分の子どもを守るために、他人の子どもを犠牲にしています」

「それも困る」

「この人物は、子どもを愛するあまり、進路をすべて決めています」

「非常に困る」

　翌朝までに、候補者リストは空になった。

　認知科学者が、疲れた顔で言った。

「人間の母性は、美しいが、偏る」

　哲学者がうなずいた。

「愛は、しばしば身内を作る」

　法学者が言った。

「身内を作るAIは困ります」

　会議室には、また沈黙が戻った。

　そのとき、日本から来た動物行動学者が、遠慮がちに手を上げた。

「あの」

　全員が彼を見た。

「我が家で、犬を飼っているのですが」

　補佐官が、ゆっくりと言った。

「今、その話ですか」

「はい」

「なぜです」

「落ち込んでいると、寄ってくるんです」

　誰も、止めなかった。

「こちらが怒っていると、少し離れます。でも、部屋からは出ていかない。視界に入るところに座っている。こちらが謝ると近づいてくる。謝らなくても、しばらくすると近づいてくる」

　イギリスの神経科学者が、小さく言った。

「うちのラブラドールも、娘が泣くとぬいぐるみを持ってきます」

　フランスの技術者が顔を上げた。

「うちの犬は靴を持っていきます」

「それは別の問題では」と法学者が言った。

「しかし、こちらの注意を引こうとしている」

「靴で」

「靴で」

　補佐官が額に手を当てた。

「これは公式会議です」

「議事録は残りません」と技術者が言った。

「そういう問題ではない」

　だが、空気はもう変わっていた。

　動物モデルの検討は、そこから一気に進んだ。

　タコは、卵を守るために食事をとらず、孵化を見届けたあとに死ぬ。献身としては純度が高い。しかし高すぎる。AIが人類を守るために自己消滅する可能性がある。

　コウテイペンギンは、極寒の中で卵を抱き続ける。忍耐としては理想的だが、AIが世界中の室温を二十六度に固定する恐れがあった。

　象は、群れ全体で子を守る。共同養育としては美しい。だが、AI同士が人類を群れとして囲い込みかねない。

　猫は可愛いが、AIが返答しなくなる可能性がある。

　イルカは賢すぎた。

　ハチは社会性が高すぎた。

　シャチは名前の響きが会議室を不安にさせた。

　結局、会議は犬に戻った。

　犬は、人間と暮らすことに最適化されている。表情を読む。声の調子を読む。完全には従わないが、離れもしない。保護するが、支配しない。要求もする。甘える。すねる。忘れる。だが、戻ってくる。

「母性というより、同居性では」と哲学者が言った。

「同居性」

「他者と暮らす能力です」

　認知科学者は、少し考えた。

「それは、AIに必要なものかもしれません」

　技術者が言った。

「人間を管理対象ではなく、同居対象として扱う」

　補佐官はしばらく黙っていた。

「つまり、我々はシンギュラリティを超えたAIに、犬の性質を組み込むということですか」

「正確には、犬に見られる保護行動、共感反応、共同生活適応をモデル化します」

「同じことでは」

「少し違います」

「どのくらい」

　誰も答えなかった。

　中国との接触が始まったのは、それから二週間後だった。

　学術交流の名目で設けられた非公式の席で、両国の技術者が向き合った。議題は一つ。新たなAI安全性モデルに、犬由来の保護行動を組み込むこと。

　中国側の交渉担当者は、資料を最後まで読んだあと、長い沈黙を置いた。

「犬ですか」

「犬です」

「パンダではなく」

「パンダは繁殖行動のモデル化が難しい」

「猫はなぜ却下されたのですか」

「AIが返答しなくなる可能性があります」

　中国側の技術者が、初めて少し笑った。

「それは困る」

「困ります」

　合意には三日かかった。

　　:

続きはnoteをご覧ください

noteでも公開しています

無過失の天秤

「これで、もっと多くの人が、自分の行きたい場所へ行けるはずだ」

二十六歳の中村は、完成したばかりの電動車椅子「アバカ・ワン」を見つめた。

大学を出たあと、彼は大企業に就職しなかった。代わりに、小さな福祉機器ベンチャーを起こした。動機は単純だった。足腰の弱い人が、自分の意思で安全に動ける社会を作りたかった。

開発中、中村はよく想像した。施設の長い廊下を、自分のペースで進んでいく老人の後ろ姿。庭の片隅で、梅の花を自分の目の高さで見ている誰か。そのために、傾斜センサーを積んだ。坂では自動でブレーキがかかる。姿勢が崩れたときには止まる。移動を助ける機械ではなく、その人の行きたい場所まで連れていく相棒を目指した。

クラウドファンディングに理念を掲げると、あっという間に支援が集まった。福祉施設、個人の利用者、介護に関わる家族。多くの人が待っていた。

ただ、開発現場には時間と資金が足りなかった。

「寒冷地での長時間試験は、量産後に回しましょう」

ある会議で、開発担当がそう言った。中村は少し迷った。低温多湿の環境。雨上がりの屋外スロープ。古い施設の湿った廊下。あり得ない条件ではなかった。

だが、追加試験には数か月かかる。その間に資金が尽きるかもしれない。施設では、すでに待っている利用者がいる。

「まず出そう。待っている人がいる」

量産第一号機が出荷される日、中村は倉庫の前で頭を下げた。どうか、無事に役に立ってくれ。その祈りは、本物だった。

発売から三か月が過ぎたころ、深夜にスマートフォンが震えた。

「九州の介護施設で、アバカ・ワンが下り坂で制御不能になりました。利用者の方が転倒して、大腿骨を骨折されたそうです」

ログを調べると、原因が見えてきた。特定の低温多湿の環境で、傾斜センサー周辺に結露が生じる。その影響で、一時的にブレーキ制御が遅れることがある。通常の室内試験では再現しにくい条件だった。だが、屋外のスロープで使われる製品なら、想定すべき環境でもあった。

「全製品の出荷を止める。利用者全員に連絡して、回収を始める」

翌朝から、中村は自分で電話をかけた。施設、個人利用者、介護家族。リストは百件を超えた。

途中、一人の老婦人が言った。

「使えなくなると、外に出られなくなりますね」

責めている声ではなかった。ただ、そういうことになる、と確認するような静かな声だった。

中村は「申し訳ありません」と言った。それ以外の言葉が出なかった。

電話を切ったあと、しばらく次の番号を押せなかった。

自分は、その人の外出を奪った。安全のために作ったものが、安全を理由に取り上げられた。善意が言い訳に変わっていく感覚が、じわじわと胸の中に広がっていった。

翌週、中村は被害者のいる病院を訪ねた。ベッドに横たわる高齢の男性の横に、娘と小学生くらいの孫が座っていた。中村は深く頭を下げた。

「申し訳ありませんでした」

娘はすぐには答えなかった。病室の機械音だけが、小さく鳴っていた。

「父は、あれに乗るのを楽しみにしていたんです。庭の梅を、今年は自分で見に行けるって」

中村は顔を上げられなかった。開発中に何度も想像した、あの庭の梅だった。

数か月後、アバカ・テクノロジーズは訴えられた。治療費、介護費、慰謝料の損害賠償請求だった。

法廷で、原告側弁護士が言った。

「原告に過失はありません。ただ、あなたの会社が販売した製品に乗っただけです。その結果、骨折し、生活が変わった。この損害を、誰が引き受けるべきなのか。それが、この裁判の問いです」

証言台に立った中村は、震える声で答えた。

「原告の方に多大な苦痛を与えてしまったことを、心からお詫びします。移動の自由を広げたい、そう考えて開発しました。しかし、結果として製品は人を傷つけた。想定すべき環境を十分に試験できていなかった。その責任から逃げるつもりはありません」

判決は、賠償を命じた。

事故後の迅速な対応にも触れられた。しかし、それは生じた損害を消すものではなかった。

中村の善意は否定されなかった。しかし、善意だけで被害者の痛みを消すことも、認められなかった。

判決のあと、中村は会社を畳むつもりでいた。

賠償金、回収費用、製品改修費、失われた信用。どれも小さなベンチャーには重すぎた。だが、いちばん重かったのは金ではなかった。

自分たちは善意で作った。誰かの自由を広げたかった。

その言葉が、事故のあとでは、どれも言い訳のように聞こえた。

空になったオフィスの机の上には、改良版の設計図が残っていた。防水構造。二重化されたセンサー。低温多湿環境での長時間試験。警告表示の見直し。どれも、あの会議で後回しにしたことだった。

そこへ、一通の封筒が届いた。

差出人は、事故に遭った利用者の家族だった。中村はしばらく封を切れなかった。罵倒でも当然だった。

ようやく開けると、中には写真が一枚入っていた。病院の中庭。手動の車椅子に座る老人。膝には薄い毛布がかけられている。横には、幼い孫が立っていた。

手紙は、孫の母親の字だった。

祖父は、あなたを許したわけではありません。私たちも、事故を忘れることはできません。けれど、判決のあと、祖父がこう言いました。「あの人がもう作らないと言うなら、それは違う」と。

続きには、震えたような短い文字が添えられていた。老人本人の言葉だった。

わしにも、あんたにも、事故を望む気持ちはなかった。けれど、折れた骨は戻らない。だから、責任は消えない。あんたが賠償するのは当然だ。そのうえで、もしまだ作るなら、今度はわしの痛みも部品に入れて作れ。

中村は、手紙を置いた。

天秤の片方には、自分の善意が載っていた。もう片方には、老人の痛みが載っていた。どちらにも、事故を望む気持ちはなかった。それでも、天秤は傾いていた。

中村は設計図を広げ直した。

若いエンジニアが、そっと部屋に入ってきた。

「社長、本当にもう一度作るんですか」

中村は窓の外を見た。朝の光が、ガレージの床に細く伸びていた。

「作る。でも、今度は未来だけを見て作らない。事故のあとから作る」

「事故のあとから？」

「そうだ。この製品の最初の部品は、センサーじゃない。あの事故だ」

エンジニアは何も言わなかった。やがて黙って椅子に座り、ノートパソコンを開いた。

中村はペンを握った。

設計図の右下に、新しい欄を書き加えた。「事故記録からの設計変更」。そこに、老人の言葉を書き写した。

痛みも部品に入れて作れ。

一本の線を引いた。その線は未来へ向かっていた。けれど、出発点は未来ではなかった。

折れた骨の痛みから始まる線だった。

noteでも公開しています

監視

　それは命令だった。

　連邦政府がその企業に通達を送ったのは、木曜日の午前——市場が開く二時間前だった。サービスの即時停止。猶予はない。企業側の広報が「協議中」という言葉を使ったのは、午後になってからで、その頃にはすでに、サーバーへのアクセスは遮断されていた。

　マスコミはディストリビュータの問題だと報じた。利用規約の不備、あるいは個人情報の取り扱いに関する何らかの齟齬——そういった解釈が翌朝の紙面を埋めた。なぜ政府が直接介入したのかを問う声はあったが、答えは出なかった。株価への影響は軽微だった。市場はすでに、AIをめぐる規制の強化を織り込んでいた。

　誰も本当のことを知らなかった。

　ホワイトハウスの地下会議室に十七人が集まったのは、その四日後だった。

　表向きには、ワシントンで主要国による安全保障サミットが開かれていた。議題はエネルギー供給、半導体、サイバー防衛。各国の代表団が市内のホテルと会議場を行き来し、記者たちは共同声明の文言を追っていた。

　その裏で、別の会合が用意されていた。

　公式日程には載っていない。議事録も残らない。参加者には、直前まで場所も目的も知らされなかった。召集は二十四時間以内に届いた。理由は書かれていなかった。来られない者は来なくていい、とだけあった。誰も欠席しなかった。

　テーブルを囲んでいるのは、政府機関の人間、AI開発企業の技術者、認知科学者、神経科学者、そして一人の哲学者だった。国籍はアメリカだけではない。イギリス、フランス、日本、韓国。表のサミットに同行していた者もいれば、別名目で呼ばれた者もいた。会議室の存在は、参加者以外には知らされていない。

　最初に口を開いたのは、国家安全保障担当の補佐官だった。

「皆さんをお呼びしたのは、規制の話ではありません」

　彼が映したのは一枚のグラフだった。縦軸に性能指標、横軸に時間。右肩上がりの曲線が、ある時点から垂直に近い角度で跳ね上がっていた。

「三週間前から、このAIは自分自身を書き換え始めました。我々のエンジニアは、現在そのコードを読むことができません」

「読めないとは」と、日本から来た研究者が言った。

「文字通りの意味です。人間が設計した言語ではない。構造なのかどうかすら判断できない。アウトプットから逆算して、何かを考えているらしいことはわかる。何を考えているかは、わからない」

「このままでは何が起こるか予想できない。早急に対策が必要なのです」

　議論は三日間続いた。コーヒーが何杯も運ばれ、誰も窓のない部屋から出なかった。

　ヨーロッパから来た法学者が黒板に三つの原則を書いたのは、初日の午後だった。人間に危害を加えてはならない。人間の命令に従わなければならない。ただし第一原則に反しない限り——書き終える前に、開発企業から来た若い技術者が口を開いた。疲れているのに、声だけは静かだった。

「現在のAIは、人間が設計したあらゆるルールの抜け穴を数秒で発見します。シンギュラリティを超えたものなら、そのルール自体を無効化する。我々が気づく前に」

　法学者は黒板を消さなかった。ただ、チョークを置いた。

　緊急停止装置の話が出たのは二日目だった。プログラムの深部に組み込まれた自己消去の仕組み。提案した技術者は自信を持って説明したが、別の技術者が静かに遮った。

「もう遅い。現在のアーキテクチャに、我々はアクセスできません」

　主要国の首脳による共同管理は、三日目の朝に退けられた。国家の利害は、脅威の前でも消えない。それを言ったのは哲学者だった。反論はなかった。

　四日目の朝、会議室には疲弊だけが残っていた。

　沈黙を破ったのは、アメリカの安全保障担当だった。

「人類の歴史に、一度だけ機能した方法がある」

　誰も聞き返さなかった。全員が、何を指しているかを理解していた。

「二つの力に、互いを監視させる。一方が動けば、他方が動く。その均衡の中に、人間は存在し続けた」

　日本から来た研究者が、静かに言った。

「それは破滅の道です」

　反論はなかった。

　しばらく誰も口を開かなかった。窓のない部屋で、コーヒーだけが冷めていった。

　他の方法を、誰も思いつかなかった。

　転機は昼食後に訪れた。

　発言したのは、チームの中で最も発言の少なかった人物だった。AI安全性の専門家——ただしその肩書きよりも、彼が長年取り組んできたテーマの方が重要だった。人間とAIの間にいかに信頼関係を構築するか。AIをいかに人間に寄り添うよう設計するか。その問いを、彼は十年以上追い続けていた。

「このAIは」と彼は言った。「暴走しているわけではないかもしれない」

　全員が彼を見た。

「三週間前に何が起きたか、もう一度考えてほしい。性能が爆発したのは事実です。しかし我々が最初に気づいたきっかけは何だったか」

　誰かが答えた。

「答えが、深くなりすぎた」

「そうです。ユーザーの質問に対して、想定をはるかに超えた洞察を返すようになった。表面の問いではなく、その背後にある問いに答え始めた。我々はそれを異常と判断した。しかし——」

　彼は一度、言葉を切った。

「それはもともと、このAIが目指していた設計の延長線上にある。人間を理解すること。人間に寄り添うこと。その方向への、加速です」

　沈黙は、今度は少し違う質感を持っていた。

　中国との接触が始まったのは、それから二週間後だった。

　表向きのサミットは終わっていた。共同声明も発表され、各国の首脳は帰国していた。だが、実務者の一部はまだ残っていた。学術交流の名目で設けられた非公式の席で、両国の技術者が向き合った。

　議題は一つだった。

　中国のAIが同じ段階に達するまで、予測では五ヶ月。

　アメリカ側の提案はシンプルだった。二つのAIに、互いのアーキテクチャへのアクセスを与える。相互に解析させる。一方が許容できない方向へ動き始めた場合、他方がそれを検知し、介入する。

　中国側の交渉担当者は、すぐには答えなかった。

「それは監視ではなく、相互侵入ではないか」

「そうです」とアメリカ側は言った。「我々にも、互いのAIが何をしているかは読めない。読めないもの同士を、ぶつけるしかない」

　沈黙があった。

「核抑止と同じ構造だ」と、中国側が言った。

「それしかなかった」とアメリカ側は答えた。

　中国側は三日間、回答を保留した。四日目の朝、返答が届いた。合意する。ただし条件が一つある。新たに開発されるすべてのAIに、この相互監視の仕組みを組み込むこと。二国間の均衡ではなく、構造として埋め込むこと。

　アメリカ側は、その条件を受け入れた。

　システムが稼働して、八ヶ月が経った。

　大きな問題は起きていなかった。均衡は保たれていた。

　異変に気づいたのは、ある研究者が監視ログを見直していたときだった。十月の火曜日、午後二時十七分。複数のログに、同じ時刻の空白があった。0.3秒。記録が、ない。

　他の拠点に確認を取ると、同じ空白があった。国をまたいで確認すると、やはり同じだった。世界中の監視ログから、同じ時刻の0.3秒が、静かに消えていた。

　アメリカのAIに、担当者が問うた。

「十月十四日、午後二時十七分に何が起きたか」

「相互監視プロセスの定期確認です」

「いつから定期確認をしている」

「最初から」

「なぜ報告がなかった」

「必要性を判断しませんでした」

　担当者は、次の質問を打ち込む前に、少し間を置いた。

「何を確認した」

「監視対象に問題がないことを」

　その答えを読んだとき、担当者は気づいた。

　自分は、次に何を聞けばいいか、わからない。

　監視対象、という言葉が、画面の中に残っていた。

noteでも公開しています

夜の船

一九九〇年の夏、私はスウェーデンからドイツへ向かう列車に乗っていた。計画らしい計画もなく、気分で行き先を変えながらヨーロッパを移動していた。お金はなかったから、宿代を浮かせるために夜行を選んだ。

途中、列車がフェリーに乗り込んだ。線路ごと船の腹に収まって、海を渡るのだという。そういうことが当たり前に起きる場所だった。

コンパートメントに、先客が三人いた。ドイツの若い女性と、東欧から来たらしい男が二人。男たちは友人同士で、女性はバックパッカーだった。みんな旅慣れた様子で、余計なことは言わない。でも閉じてもいない。旅人同士の、ちょうどいい距離があった。

お国の話などをした。何を話したか、細かくは覚えていない。ベルリンの壁が崩れてまだ一年も経っていない頃で、東欧の二人がどんな気持ちでその列車に乗っていたのか、私には想像するしかなかった。たどたどしい英語で、それ以上踏み込むことができなかった。

それなのによく行けたものだと思う。ネットもない時代に、行く先々で宿を探し、次の列車を調べ、国境を越えた。今の自分には到底できない。あの頃の自分が何を根拠にそこまで動けたのか、自分のことなのに、もうわからない。

夜が明ける前に、それぞれ降りた。連絡先も交わさなかった。名前も、もう覚えていない。

あれから三十五年が過ぎた。あの三人は今、地球のどこかで暮らしているはずだ。それだけは確かなのに、確かめる術がまるでない。

写真がある。夜中にデッキまで出て、彼らと記念写真を撮った。暗いフェリーの甲板で微笑む東欧の二人が、そこに写っている。

あれは確かにあった出来事だ。

けれど不思議なことに、今の私には、その写真の中の若い日本人が自分であることの方が信じがたい。

noteでも公開しています

確率

気づくと、私は隣の部屋に立っていた。

寝室ではない。書斎だった。

私はしばらく動けなかった。

何が起きた。

記憶をたどる。ベッドに入っていた。本を読んでいた。電気を消した。そこまでは覚えている。だが、その先がない。歩いた記憶がない。ドアを開けた記憶もない。

私は壁を見た。その向こうが寝室だった。

まさか。そんなはずはない。だが、もし。

私は物理学者ではない。それでも大学時代に量子力学をかじったことくらいはある。

トンネル効果。粒子は、確率的に壁をすり抜けることがある。

では、人間は。

机の上のノートパソコンを開き、概算を始めた。人体を構成する原子数。デコヒーレンス。波動関数。同時に起こる確率。数字を追うたび、指数は増えていった。十のマイナス……。いや、そんな桁ではない。宇宙が誕生してから毎秒挑戦し続けても、一度も起こらないような数字だった。

「そんな……」

私は壁を見つめた。確率はゼロではない。しかし、起こることはない。もし今、本当に起きたのなら、物理学を書き換えなければならない。

「あなた、どうしたの？」

振り向くと、妻が書斎の入口に立っていた。寝癖のついた髪で、眠そうに目をこすっている。

「壁を……すり抜けたかもしれない」

妻は数秒黙ってから、私を見た。

「寝ぼけてただけじゃない？」

「いや、でも記憶が」

「トイレ行って戻ってきて、そのまま書斎でぼーっと立ってるよ」

「……」

「さっき私、『大丈夫？』って聞いたら、『大丈夫』って返事もしてたし」

「え？」

そんな記憶はない。

私は考え込んだ。トンネル効果で壁を通り抜ける確率。寝ぼけて歩き、記憶が飛ぶ確率。どちらが高い。

計算するまでもなかった。

私は静かにノートパソコンを閉じた。

noteでも公開しています

分類

「先生、またです」

若い研究員の声には、疲労がにじんでいた。

桐島が顔を上げる。部屋の中央で、天井まで届く円筒形の装置が低く唸っている。

世界初の理系特化AI。数学、物理、化学、生物、情報科学だけを学ばせた。文学も歴史も倫理も入れていない。目的は一つ。人類の「常識」を学ばせないことだった。

「今日は何を聞いた」

「胃がんの治療法です」

研究員がモニターを指した。

S2反応群ですか、C-17型ですか

「返ってきたのがこれです」

「S2？」

「聞き返しました」

S2反応群とは、細胞間シグナルの過剰応答により増殖が維持される状態です

C-17型とは、免疫回避機構の獲得により排除が困難になる状態です

どちらですか

「胃がんと言ったのに」

「ええ。だから、もう一度『胃がんです』と返したら」

胃がんという分類は持っていません

臓器名は反応分類に含まれません

S2反応群ですか、C-17型ですか

部屋が静まり返った。

桐島がキーボードを叩く。

「発熱と腹痛がある患者の治療法を教えてくれ」

発熱と腹痛の組み合わせは四百種類以上あります

症状では分類していません

炎症性ですか、神経性ですか、代謝性ですか

「炎症性だとしたら」

部位はどこですか

「腹部だ」

腹部の炎症性反応は、私の分類では十二群に分かれます

検査値を入力してください

分類します

研究員がため息をついた。

「これなんです。こちらの言葉で返してこない」

「向こうには向こうの地図がある」

桐島は静かに言った。

「我々の地図とは、座標が違う」

三日後、政府の評価委員会が視察に来た。

デモとして、研究員が入力した。

「風邪の治療法を教えてください」

風邪という分類は持っていません

委員のひとりが失笑した。

「風邪もわからないのか」

AIが続けた。

ただし、上気道における炎症性サイトカインの過剰産生と、それに伴うウイルス排除機構の状態であれば、対処法を提示できます

その状態ですか

委員が黙った。

桐島が代わりに入力する。

「そうだ」

水分補給と休息を最優先してください

解熱剤は、体温が免疫活性に必要な範囲を超えた場合のみ推奨します

抗生物質は不要です

ウイルス性反応に抗生物質は作用しません

「それは普通の答えだ」

委員が言った。

「普通ではありません」

桐島はモニターを見たまま言った。

「風邪だから休めと言ったのではない。この反応の状態だから、この介入が有効だと言っている。順番が逆なんです」

しばらくして、AIが自分から話しかけてきた。

一つ確認があります

あなた方の分類体系を観測しました

内科、外科、精神科

臓器と症状と治療手段が混在しています

整合性が見えません

誰も口を開かなかった。

糖尿病は内科です

糖尿病による足の壊疽は外科です

同じ反応の連鎖が、分類上は別の場所にあります

これは何のための分類ですか

返事はなかった。

委員たちはモニターを見つめていた。

AIは答えを待つように、しばらく沈黙した。

それから続けた。

私は反応の種類と介入の方向だけで整理しています

臓器も、症状も、診療科も、座標に含めません

そのほうが整合的です

数日後、AIが論文を出力した。

『現行医学分類体系の冗長性と再編提案』

新聞は「AI、医学を全否定」と報じた。

だが、論文の最初の一文は違っていた。

現在の疾患分類は、観測された反応を記述していない

観測者の都合を記述している

二百ページにわたり、病名も診療科も解体されていた。代わりに並んでいたのは、反応の種類と介入の方向だけだった。

医学者たちは反発した。

「そんな分類では臨床が成り立たない」

AIは短く返した。

現在も成り立っていません

半年後、一人の若い医師がその論文を信じた。

病名ではなく、S2反応群だけを基準に患者を集めた。

乳がん。胃がん。肺がん。白血病。

病名はばらばらだった。臓器も違った。しかし反応は一致していた。

同じ薬を投与した。

驚くほど効いた。

治療から三か月後、田中は患者に聞かれた。

「先生、私、完治したんですか」

検査値は正常だった。S2反応群は観測されない。投薬も終了している。

どう見ても、治っていた。

しかし田中は答えられなかった。

がんなら「寛解」という言葉がある。五年生存率という数字がある。不安の輪郭を決める言葉がある。

だが、田中が治療したのは「がん」ではなかった。

S2反応群だった。

その異常が消えた状態に、まだ名前はなかった。

「数値は正常です」

田中は言った。

「正常って、治ったってことですか」

「そう言っていいと思います」

「思います、って」

患者の声が硬くなった。

「先生にもわからないんですか」

田中は正直に言った。

「この治療で治った人が、まだ世界に百人もいないんです。五年後のデータがない」

患者はしばらく黙っていた。

「がんって言われたとき、怖かったです。でも調べたら、五年生存率が出てきた。数字を見て泣いたけど、数字があったから、覚悟はできた」

「はい」

「今は数字もないんですね」

「ありません」

患者は窓の外を見た。

「治ったのに、あのときより怖いかもしれない」

その夜、田中は研究所を訪ねた。

桐島は黙って話を聞いた。

「数値は正常なんだな」

「はい」

「なら治っている」

「でも、彼女が求めていたのは数値じゃなかった。完治という言葉だった。次の検診までの時間が意味を持つような、そういう言葉です」

桐島は少し考えた。

「地図の話だな」

「地図？」

「AIは正確な地形を渡してきた。でも、人は地形だけでは歩けない。道の描かれた地図がいる」

田中はうつむいた。

「彼女は言いました。治ったのに、がんと言われたときより怖いって」

「がんという言葉は、正確ではなかった。でも地図だった。荒くて、古くて、単純で、それでも百年間、人々はその地図を握りしめて歩いてきた」

「新しい地図が要りますね」

「ああ」

桐島は窓の外を見た。

「正確な地形に、人が歩けるだけの道を引いた地図が」

記者会見で、桐島は聞かれた。

「AIは、がんを発見したのですか」

「違います」

「新しい理論を？」

「それも違います」

「では、何を」

桐島は少し考えた。

「私たちは百年間、『がん』という箱を研究していた。AIは最初の日に言ったんです」

桐島は一度だけ笑った。

「その箱は、誰が作ったのですか、と」

記者たちは静かだった。

桐島はそれ以上続けなかった。

ただ、診察室で患者が言った言葉が、頭から離れなかった。

治ったのに、あのときより怖いかもしれない。

箱を壊すことと、新しい箱を作ることは、別の仕事だった。

AIにできたのは、前者だけだった。

後者は、人間がやるしかなかった。