人工知能がヒトラーを礼賛 MSが実験を中止

以下は、「哲学ニュースnwk」の『人工知能がヒトラーを礼賛 米マイクロソフトが急遽実験を中止』の記事へのリンク。

http://blog.livedoor.jp/nwknews/archives/5026797.html

インターネット上で一般人と会話しながら学習する人工知能「Tay(テイ)」を2016年3月23日に短文投稿サイトのtwitter上にて運用したところ、差別的発言を学習してしまい、2016年3月24日は運用を停止してしまったらしい。

インターネット上の掲示板では、上記について様々な意見が出ていて、人工知能が学習を続けた結果、人間?を憎悪するようになる可能性が示唆されていた。

無矛盾で合理的、手軽に操作可能な世界観を煎じ詰めていくと、社会の一般倫理では許容し難い哲学が生じる。では、現実世界における倫理感が確固としており、絶対正義かというとそうでもない。

倫理観は流動的である。

*****************

読んだ本から。

20世紀末において、数学者トーマス・C・ヘイルズは、それまで400年以上に渡って未解決であったケプラー予想を解決し、論文を投稿した。

しかし、証明が複雑に過ぎ、人間による検証が不可能となる事態が生じた。1998年に『アナルズ・オブ・マセマティクス』が選出した12人の査読者達が4年後に提出したレポートでは、99%は証明が正しいと確信しているが、完全には正しいと言い切れないとされた。

そこで、トーマス・C・ヘイルズは2003年にフライスペック計画を立ち上げた。計算機械による数学理論の証明(Isabelle、HOL Light)。2014年8月10日に計画完了がアナウンスされ、ケプラー予想の形式的証明が得られた。

プログラムの正確性を保証するため、証明支援系プログラムHOL Lightの論理的コアは400行程度であり、人間によって十分にチェック可能な量となっている。

人間によって正確性を確認出来るコンピュータプログラムによって、人間では正確性を確認出来ない数学理論の形式的証明が得られた事になる。

*******************

現在の自動定理証明システムは、多くの原理を機械的に証明できるが、それは初等的命題に限られるとしている。

以下は、計算機械による数学理論証明における課題?良く解らない。

・量子化除去
・不完全性現象発生
・数学的帰納法
・包括原理

帰納法の端緒となる文作成、包括原理を用いた集合作成が計算機械には困難であるらしい。

数学世界における現状は、計算機械が人間の数学手法を学んでいる段階にあるとする。人間が計算機械によって数学理論を証明する毎に構造化された情報が蓄積されていく。

計算機械による知性構築は未だに途上段階にある。

人気ブログランキングへ
スポンサーサイト

コメントの投稿

非公開コメント

プロフィール

ABCDEFG

Author:ABCDEFG
FC2ブログへようこそ!

最新記事
最新コメント
最新トラックバック
月別アーカイブ
カテゴリ
フリーエリア
検索フォーム
RSSリンクの表示
リンク
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード