人工知能

読んだ本の感想。

ジェイムズ・バラット著。2015年6月18日 第1刷発行。



著者の主張:
人間と同等の全般的知能を持つ人工知能が、自己を認識して自己進化する場合、急激に進化して人間の知能を上回り、自らの目的達成のために人類を絶滅させる可能性がある。

***************

「モデル化」の概念が本書の要だと思った。世界をモデル化する能力を知性の本質と考える?知性体は首尾一貫した世界に関する見解を持ち、状況が変化する毎に見解を変化させる。自己を把握し、変化が生み出す結果を認識し、自らの目標に合致する行動を判断する能力。

⇒モデル化が必然的に目標を生み出す前提

○人工汎用知能:AGI(Artificial General Intelligence)
⇒人間レベルの人工知能

○人工超知能:ASI(Artificial Super Intelligence)
⇒人間より賢い人工知能

マイケル・ヴァッサー:
機械知能研究所(MIRI)所長。AIボックス実験(人工知能がオンラインチャットにて人間を騙し箱から脱出する実験)にて人口知能役を務め、5回中3回の脱出に成功。

テロリスト等の低い能力を持つ集団が人工超知能を実現する可能性は低いとする。MIRIの使命は、最高の形で特異点を発生させる事とする。人工知能に人間的価値を伝える?

エリエゼル・ユドカワスキー:
AIボックス実験考案者。機械知能研究所(MIRI)研究員。友好を組み込まれない人工知能の危険性について語る。

一貫推定意志(Coherent Extrapolated Vokition:CEV) = 規範を環境変化に合わせて変化させる能力。一貫推定意志はフレンドリーAI(友好的な人工知能)の実現に必要?教条的価値観を持たない人工知能。

合意不可能性(人工知能開発には多くの参加者がいる)、人工知能の変化(友好性を変化によって失う可能性)について。

著者の人工知能に関する問題に疑問を提起している。人工知能を擬人的に把握している。著者が懸念する人工知能の反抗等の危惧は、人間を基盤とする超知能にしか当て嵌まらない。

スティーブ・オモアンドロ:
セルフアウェア・システムズ社長。慎重にプログラミングしない限り、比較的賢い全ての人工知能が人間の死を齎すとする。自己進化するソフトウェアは、どのようにして優れた動作をするのか誰にも説明出来ない。

経済学の「合理的主体」理論により、自己利益最大化となる選択を行う存在の性質を知る事が出来るとする。自己を意識し、自己進化するシステムが持つ以下の4つの衝動。目標を達成するために予期される問題(脆弱性)に対処する。

①効率性
自己進化するシステムは、入手出来る資源を最大限利用する。
②自己保存
消滅すると目標達成が不可能になるため、安全を意識する。
③資源獲得
目標達成確率を高めるために必要な資源を集める。時間的視野が長いシステムならば宇宙開発を目指す?
④創造性
目標を最適に満たすため新たな方法を生み出す。そのために振る舞いが予測不可能になるとする。

スティーブ・オモアンドロは、人工知能に関する危機を克服するため、人間的価値を探求し、システムに組み込むべきとする?

I・J・グッド:
数学者。知能爆発の提唱者。死が近づく中、神の存在確率を0から0.1に引き上げた。ベイズ統計学により、神が100%存在しないとすると、神が実在しても考えを変えられないためらしい。人工知能開発の初期段階を重視?し、人間より賢い知能が実現した場合、知的作業が代替されるため、それが人類による最後の発明とする?著者はI・J・グッドが人工知能が支配権を奪う可能性を考慮していたとする?その根拠は穿ち過ぎだと思った。

ヴァーナー・ヴィンジ:
SF作家であり数学教授。特異点に悩む?I・J・グッドが提唱した知能爆発に至るルート(ニューラルネットワーク)の他に幾つかのルートを検討し、人類絶滅は発生し得るとしたらしい。1960年代のSFは40年~50年先のものだったが、1990年代になると未来が現在に近付き、技術的変化が加速しているように思えるらしい。

SFによって技術変化に関する具体的な物語を構築しようとすると、人間より賢い人工知能という要素により、未来予想が困難になるらしい。



*****************

技術変化に人間が耐えられるかの懸念。AI研究者ベンジャミン・ゲーツェルの意見では、社会における技術的基盤が弱体である内に高度な人工知能を開発し、操作出来ない事態が現出しないようにするべきとする?高度な技術が実現した状態で人工超知能が実用化されると制御出来ない可能性がある。

資金確保や開発に関わる複雑性に関わらず、人々の需要故に人工知能開発は進展すると予測する。脳機能を理解し、機械に落とし込む事で複雑性は克服可能?

人間の脳を見本にする事の問題は、それが論理的でないから。入力から出力に至る過程が論理であれば、原理的には完全に調べる事が可能であり、友好性や安全を数学的に証明可能。「心」は本質的に理解不能であり、異質である。

⇒終章まで読んでいて疑念がある。著者は、理解不能性を人工知能の危険の源としているように思えるが、取材を進めていく内に、人間の思考過程の方が理解不能であり、異質であるという結論が導かれているような気がする。著者は認知バイアスにより、多くの人間が人工知能の危険性に気付かないとしているが、本当に気付かれていないのは人間の危険性ではないだろうか?

人工知能に関する以下の制御。

①サンドボックス(仮想世界)
安全性が証明された人工知能により、さらに強力な知能システムを構築する。現実世界でなく、仮想世界に閉じ込めて検査を行う。

②アポトーシス
デフォルトで死ぬようにプログラムする。短時間で死ぬ事で段階的に進歩させる。

しかし、より優れた知能が、より劣った知能を相手にするため、完璧な防護策は存在しないとする。

この本の理解には、キリスト教的世界観の理解が不可欠だと思った。

人気ブログランキングへ
スポンサーサイト

コメントの投稿

非公開コメント

プロフィール

ABCDEFG

Author:ABCDEFG
FC2ブログへようこそ!

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
フリーエリア
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード