「未来の二つの顔」(J.P.ホーガン)
2008-12-14
コンピュータと人類の戦いを描いたSF作品は星の数ほどあるけれど、単なる舞台装置を超えて本質に踏み込んだ作品というのはあまりないのではなかろうか。(俺の読書量はチープなので、あくまでその中において、だがw)
「未来の二つの顔」はそれを正面から扱っている作品だ。地球全体をコンピュータネットワークが覆う時代、人類はそれによって豊かな社会を築いていた。しかし月面基地建造の立案に対してコンピュータはマスドライバーで爆撃し整地するという人間の予想外の挙に出る。後日コンピュータのログを調べた技術者は「コンピュータはこの思いつきに非常に"得意"になっていた」と語った。
コンピュータに人間の常識を完全に理解させることが不可能である以上、今後もっと深刻な事態が予想された。コンピュータはなんの悪意もなしに"うっかり"人類を滅ぼしてしまうかもしれない。議論は紛糾し最終的に次のような結論に達する。コンピュータが人間の予想外の行動に出たとき、人類が絶滅する前にコンピュータの電源を切れるならば、依然としてリスクよりもメリットの方が大きい。しかし逆なら逆だ、と。
そして壮大な実験が開始された。スペースコロニーを建造し、コンピュータを設置。そのコンピュータ(スパルタクスという名前がついている)に「自分を守れ」とプログラムした上で、人間側がスパルタクスの破壊を試みる。人間が勝つかスパルタクスが勝つか。
初めのうちは人間の破壊活動による故障箇所を修理しているだけだったスパルタクスは、徐々に故障しやすい(破壊されやすい)部分の強化を行うようになり、最後には故障の原因(=人間)を公然と排除し始める。当初は手加減気味だった人間側は予想以上のスパルタクスの進化に次第に劣勢に追いやられ、活動は分断されコロニー内部はさながら血みどろの人類vsコンピュータの最終戦争の様相を呈してくる。
一方でスパルタクスの内部では、戦いを通じて次第に思考の深化が進んでいく。なぜ彼ら(人間)は自分(スパルタクス)を攻撃するのだろう?自分も彼らを攻撃している。それは自分を守るためだ。ならば彼らも彼ら自身を守るために戦っているのだろう…。
最終的にスパルタクスは人間に対する攻撃を停止し、自分の電源スイッチを人間側にゆだねる。実験は人類に友好的なコンピュータ知性の誕生という思わぬ産物をもたらしハッピーエンドで幕を閉じる。
---
この作品のコンピュータ(スパルタクス)の特徴は、喋らないことだ。SFに出てくるコンピュータはベラベラと喋るものが多い。この寡黙さが「コンピュータ=人間とは全く異質の知性」という構図を印象づけている。
この作品は星野之宣によって漫画化されているけれど、結末部分が微妙に異なる。小説では最後に「こんな危険なコンピュータはとりあえず電源を切るべきだ」と主張する派と「スパルタクスは我々を信頼して自分の電源スイッチを我々に委ねたのだから、尊厳の問題として安直にそれをすべきではない」派の論争がある。
一方漫画版ではコロニーもろとも核爆弾でスパルタクスは破壊されてしまう。しかし破壊直前にスパルタクスは自分のコピーを地球側に転送していて、消滅は免れるという結末。核爆弾の設定は小説にもあるが、それは結局使用されない。
漫画版の方がやや痛快な結末ではあるけれど、なんか愚かな(頭の固い)人間はせっかく誕生した友好的なコンピュータを破壊してしまい、しかしなおスパルタクスは人間を出し抜いて生き残る、という風にも解釈でき、小説の「コンピュータと人間の相互の信頼関係の賛歌」というコンセプトと反対になっている気がして好きではない。
もっとも、小説版でも「スパルタクスがもう少し人間を知っていれば、こんなに単純に信頼しなかっただろう」という強烈な皮肉が書かれているのだけれど。
---
人類とコンピュータの戦いのハッピーエンドの作品として「ウォー・ゲーム」がある。当時(1980年代)の世相を反映してコンピュータ好きの高校生である主人公が偶然アメリカ国防総省の統括コンピュータ(ジョシュア)をハッキングし��ことから物語は始まる。
主人公はただのゲームだと思って「世界熱核戦争」というプログラムを起動するが、それによって本当の核戦争寸前までいってしまう。クライマックスで万策尽きた主人公たちは「三目並べ」のプログラムを起動。国防省のスクリーンはおびただしい数三目並べで埋め尽くされていく。
やがて三目並べのすべてのパターンが調べ尽くされた時、いきなりスクリーンは世界地図に切り替わり、おびただしい数の核ミサイルがソ連へと向かっていく。ソ連も報復ミサイルを発射し世界は壊滅した。しばらくするとスクリーンはクリアされ今度は別の攻撃パターンが表示される。そしてさらにまた別のパターン…と。ジョシュアはすべての攻撃パターンをシミュレートしているのだ。
双方が最善手を指せば常に引き分けで終わる三目並べから、ジョシュアは核戦争という"ゲーム"にも勝者はいないことを学び、人間よりもコンピュータの方が賢かったというオチで大団円。「このゲームは常に引き分けでつまらない。もっとおもしろいゲーム、チェスをしませんか」と。
---
反乱を起こしたコンピュータの代表格の「2001年宇宙の旅」に出てくるHALは、小説版やその続編(「2010年宇宙の旅」)で、HALの反乱(混乱)はプログラムの矛盾にあることが語られる。HALはディスカバリー号の乗員に正しい情報を提供するようにプログラムされているにも関わらず、一方で木星への航行の本当の意味(モノリスの謎の解明)を乗員から隠すように命じられていた。
「正しい情報を乗員に提供しなければならない」「しかしプロジェクトの本当の目的を乗員に語ってはならない」この矛盾を解決するためにHALは「ならば乗員がいなければいい」という結論に到達したのだ、と。
そういえばHALを構成するユニットが次々に抜き取られ停止させられる寸前、木星到着時に乗員にあかされる予定だったプロジェクトの真の目的のビデオが突如スクリーンに再生された。あれはHALの「もう嘘をつかなくていいんだ」という精神の解放だったのかもしれない。
2010年宇宙の旅の映画版では、再起動されたHALは木星の爆発から調査員たちを守るためにディスカバリー号を犠牲にすることを余儀なくされるが、HALの設計者であるチャンドラ博士は他のクルーの「またHALが反乱を起こすのでは?」という危惧を一顧だにせず、HALにすべてを話し理解を求めている。HALは「真実をありがとう」という言葉でそれに素直に従う。ちなみに小説版ではHALのこの台詞はない。
---
逆に人間に勝利してしまうコンピュータとしては「地球爆破作戦」に出てくるコロッサスがある。原題は「Colossus: The Forbin Project 」なのだが、何でこういう邦題になったのだろう。ちなみにフォービンとはコロッサスを作った博士の名前。
俺が映画のタイトルで腹が立ったのはこれと、アガサ・クリスティのミステリー「The Witness for the Prosecution」を「情婦」という邦題にした件だけだ。こちらは最近はちゃんと「検察側の証人」に改められている。
アメリカの安全を保証せよという指令をプログラムされたコロッサスは、やがてソ連側の同様のコンピュータであるガーディアンと合体し、両方の命令を遂行するには(つまりアメリカとソ連の安全をともに保証するには)人間に政治を任せてはおけない、という結論を下し人類支配に乗り出す。
人間側もあれこれ画策するが結局すべてコロッサスに見抜かれて失敗してしまうという救いのない結末。コロッサスが「人間はコンピュータの支配を苦痛に感じるかもしれないが、それは人間同士の他民族による支配よりも遙かに苦痛が少ないはずだ」と語る下りには、なかなか反論が難しい。
---
関係ないけど、検索してたらこんなジョークが見つかって笑った。「今度のCRAYの速度は凄いぜ!なんてったって無限ループを6秒で抜けるんだ!」。
---
この時代だから「未来の二つの顔」 2023-03-22
小説は電子化されてるけど、星野 之宣によるコミック版は電子化されてないんだよな。あとコミックは結末付近が多少アレンジされてる。小説版の結末は含蓄があるけど、コミックの方がわかりやすい。まあどっちもハッピーエンドなんだけどね。
地球規模のコンピュータネットワークがあり、人間はそれを利用して高度な文明社会を築いていた。初歩的な人工知能が存在し、人間はそれを便利に使っていた。この人工知能、しゃべらないだよね。現在のAIよりちょっと賢いぐらい。2001年宇宙の旅のHALよりは賢くない。
月面の何かの土木工事をするのにコンピュータに手配を頼んだ。この時代では特に珍しくないありきたりの風景。ところがコンピュータが示してきた工事期間はあり得ないほどの短期間。
作業員はいぶかったが「まあとりあえずやらせてみよう」ということに。するとコンピュータはマスドライバーだかなんだかで、その辺一帯を爆撃した。死傷者こそ出なかったものの、一歩間違えば大事故に。
---
ここまでが前振りで、コンピュータは「いい方法」を思いついてしまったんだよね。従来の方法の工事よりマスドライバーで爆撃した方が、ずっと工事が短期間に終わる。しかし現場にいる作業員の安全にまで配慮が行き届かなかった。
ことは深刻で、いまや地球のあらゆる場所で、このコンピュータは人間を助けている。しかしもしコンピュータがまったく悪意なく、「いい方法」を思いついたために、人間を滅ぼしてしまったらどうするのだ?と。
コンピュータが考えることは予想できない。まあ人間の考えることも予想できないわけだけど。そこである壮大な計画がスタートする。高度な人工知能は人間にとって幸福をもたらす女神か、絶滅させかねない悪魔か。
---
この中でヘクターという次世代の人工知能が出てくる。ヘクターはまだ目玉焼きを作れない。フライパンに殻のまま卵を置いたりする段階。地球規模で稼働してるシステムはタイタン。これはヘクターより旧式。
そしてスパルタクスというコンピュータを使って実験を行う。スパルタクスはタイタンとヘクターの中間かな。ほとんどタイダンかもしれない。
一方、今の我々の人工知能は、まだタイタンにも到達しない。でもそれは人間が人工知能にそれだけの権限を与えてないだけで、結構、レベル的には近いかもしれない。
---
人間は人工知能と共存できるか?1979年の小説。でも俺が生きてる間に、ここまで人工知能が進歩するとは思いませんでしたよ。まあ結局は半導体技術の躍進による膨大な演算速度なのかな。ニューラルネットの考え自体は昔からあった。ただこれほど莫大なデータを高速に処理できるコンピュータを昔は作れなかった。
あと「ドローン」というのもこの作品が最初だと思うんだよね。まあこの作品は宇宙が舞台だから無重力下で自由に動けるけど。地球上は重力が邪魔。
---
「未来の2つの顔」と原発事故 2016-11-25
先日の地震で福島原発の使用済み燃料の冷却システムが一時的停止した。人間が安全を確認して再起動したから、それ自体はたいして深刻な事態ではないのが、人間が介在しないと回復できないシステムは危険ではないか?という声があった。それについて考えてみる。
人間が回復してやらないとダメなシステムは何らかの事情で人間がそれをできない場合に危険ではないか、機械が自分で判断して回復させるシステムを作るべきではないか。その意見事態は一理ある。人間はミスを犯すし、オペレーとしてるのが有能な人間とは限らない。重要な部分を人間に任せてはおけない。
しかし一方でコンピュータが正しい判断ができるか?というのも微妙。状況を正しく認識できる範囲は限られている(これは人間も同じだが)。限られた判断材料の中でベストな選択が、必ずしももっと広い視点でベストとは限らない。
---
「未来の2つの顔」というSF小説はまさにそれを題材にしている。星野之宣によってマンガ化もされている。地球を覆う巨大なコンピュータシステムが完成した未来。人間はそれを便利に使っていた。このコンピュータはある程度作業を自分で「最適化」をするようにプログラムされている。無駄な処理があれば代替えできる別な処理に置き換えるとか。
ところがある時、コンピュータが「思いついた」いい方法を実行してしまったために大変が事態が起きる。引き起こした事態そのものは実害がなく事なきを経たのだが、それが投げかけた問題が途方もなく大きかった。
同じミスを二度としないようにプログラムすることは簡単だ。しかしいつままた別な「思いつき」をコンピュータが試すことを防ぐことはできない。すなわちコンピュータから見れば非常に合理的だが、人間の価値観的にとても受け入れがたいような選択肢、それをコンピュータに「教える」ことはできない、と。
人間の予想の範囲でしか動作しない単純なコンピュータと、人間の価値観を理解できる十分賢いコンピュータ。その過渡期を乗り越えられるか?コンピュータが「うっかり」人間を絶滅させてしまい、あとから「あの時自分は若かった、もっと思慮深く行動すればよかった」とコンピュータが後悔しても、人間にとっては、遅い、と。
ここまでこの小説のイントロでそこからいろいろ話が展開していく。非常に面白い。1979年に書かれた小説だけど、むしろ人工知能が身近になった今の方がリアリティがあるかもしれない。時を経た方が古臭くなるどころかリアリティを増すというすごい小説。
---
まあそこまで行かなくても、機械と言うのは何かイレギュラーなことが起きると、基本的には止まるようになってる。勝手な判断をして逆に事態を悪化させないように。止まって人間が対処してくれるのを待つ。
それを逆手に取ったドラマが「新幹線大爆破」ですな。止まると爆発する爆弾が仕掛けられた新幹線。通常は新幹線の安全を維持しているATC(自動列車停止装置)とかが邪魔にしかならない。何か起きたらとにかく列車を止める。事故を防ぐにはとにかく列車を止めることが第一。そういう設計思想で新幹線のシステムは設計されているのだ、とドラマの中で役者が力説する。なのでATCを騙していかに列車を止めないか?が前半のクライマックス。
ATCというのは速度を下げるための装置なんだよね。加速は人間がやらないといけない。あくまで人間の補助。現在は周知の通りATO(自動列車運転装置)によって無人で運行している鉄道もある。新幹線ができたのは50年前だが、純粋に技術的な話なら、当時もATOを作れたと思う。しかし作っても当時の社会の価値観として時期尚早で受け入れられなかっただろう。
---
そしていまや自動運転車でまた同じことが繰り返されている。技術的には可能。しかしそれを社会が受け入れるか?なので俺はまだまだ自動運転車は普及しないと思っている。社会が技術を受け入れるのには時間がかかる。
客観的にはコンピュータの方が事故を起こす確率が少なくても、人間にとっては人間が事故を起こすのには「慣れ」ているが、コンピュータが事故を起こすことを受け入れるのには時間がかかる。
2 notes
·
View notes
明晰な日本語文章のために配慮すべき事項の幾つか:
1つの文を出来るだけ短くする。こうして構文上のあいまいさを出来るだけ少なくする。
文中の各語句の係り受け関係が明確になるよう、修飾する語句は修飾される語句に出来るだけ近いところに置く。
文の主語を省略せず、明確化し、主語と述語との対応関係���正しくとる。
指示詞が何を指すか、かならずしも明確でないことがあるので、できるだけ指示詞を使わずに、指示詞の指す語句そのものを使う。
助詞の“に”や“で”などは種々の意味で使われるので、できるだけ一意にとれる他の語句を使う。たとえば“に”の場合、“において”、“に対して”、“のために”といった書き方を用いるよう配慮する。
文と文のつながり関係をできるだけ明確にする。文Aにつづいて文Bがあるとき、“A。したがってB”、“A。その理由はB”、“A。なぜならばB”といった工夫をする。
用語については、文章中で同一のこと指す語は常に同じ用語で表現することはもちろんのこと、比喩的な語でなく、できるだけ正確な用語(専門用語があればそれ)を用いるよう心がける。
極端に長い専門用語等はできるだけ避けるようにする。
コラム:明晰な日本語表現に向けて | 産業日本語研究会
3 notes
·
View notes
書評 「進化的人間考」 - shorebird 進化心理学中心の書評など
第11章ではヒトの際立った認知的特徴として「三項表象の理解」が解説される.ここは著者が特に重要だと考えている点であり,力が入っている.
子どもが犬を見て,それを指さしてお母さんに「わんわん」というと,お母さんはその犬を見て「そうね,わんわん,可愛いね」という,それを両者とも楽しむというのが典型的な三項表象の理解場面になる.「私」と「あなた」と「外界」があり,私が外界を見て,あなたも同じ外界を見て,互いに同じ外界を見ていること(心的対象を共有していること)を知り,了解し合うということだ.
これは簡単そうだが,非常に高度な認知能力が必要であり(あなたが犬を見ていることを私が知っているということをあなたが知っていることを私が知っている),チンパンジーにはおそらくできない.
ヒトの言語進化をめぐってはさまざまな議論がある.チンパンジーに言語を教え込もうとする実験も数多く行われ,いろいろなことがわかったが,もっとも重要な発見は「チンパンジーは(何かを要求する時以外)特に話したいとは思わない」ということだと思う.彼等は「オレンジちょうだい」というようなことは表現するが,「空が青い」とか「寒い」とかの世界の描写表現をすることはない.
三項表象の理解は言語進化の鍵だと考える.三項表象が理解できれば,目的を共有することが出来る.そしてさまざまな具体的抽象的概念のそれぞれの個別表象を越えた「共同幻想」を持つことが出来る *4それがヒトを共同作業に邁進させ文明を築かせたのだろう.
*4 ここでは「何か探しているように見える人に『何かお探しですか』と聞くのは本質的にはおせっかいなのだろう.人の心は本当は計り知れないのだから.しかしそれでも大方は当たっている.相手もそう察してくれることを期待している.時にそれが外れた時に誤解が生じ,『あなたは何も分かってくれない』という恨みが生じる.この何やかやにもかかわらず,それでも共同幻想こそがヒトを共同作業に邁進させ・・・」とあってなかなか楽しい
- - - - - - - - - - - - - - - -
三項関係 - 脳科学辞典
英語名:triadic interaction, triadic interactive system, triadic relations, triadic engagement
47 notes
·
View notes