時のログ

モノクロ写真時々独り言、文字は心をあらわす、今思った事を素直に書こう!

ターミネーターの時代は本当にやってくるのか?

あとで読む

スポンサーリンク

おはようございます。サイト管理者のふぇいやんです。最近読んだ本の中に、面白いことが書いてあったんです。

 

それはAIについてのことですが、AIが未来を変えるような楽観的な内容ではありませんでした。面白そうだったので、そのことについて今日は書きますね。

 

f:id:sek-loso0228:20180117192639j:plain

 

AIって言うと、最近流行りのキーワードの一つで、ディープラーニングとか言われてもてはやされていることですよね。

 

 

本当にAIって人間の未来に役立つんですかね?

 

人工知能で起こり得ること

AIつまり人工知能っていうのは、実は実際には何をしでかすか分からない存在なんだよね。

 

人工知能を作るには、人間がいろいろと覚えさせて、いろいろと知識を蓄えて自動で判断できるようにするしくみなんだが、ちょっと考えると矛盾点もいろいろと見つかる。

 

要は、人工知能が高度になればなるほど、人間が作ったルールを守る保証を得ることが難しくなっていくということ。

 

何を言っているのかというと、最初は人間が教えていたとしても、だんだんと深く学ばせていくうちにシステム自体を人工知能が作ると言う行為を、人工知能自体に委ねていくことに成るので、本当に人間の意図通りに動いてくれるのかと言う保証はが斬り無く低くなっていく。

 

つまりだ、人工知能が自分を自分で学習していくプログラムを作って行くので、人間は関係なくなり、最後に意思を持ち出す可能性が有るということ。

 

人間の制御範囲から飛び出していくということだな。

 

ここで言う意思は、人間の意志とは違い、デジタルで0/1を判断する意思ということ。

 

そう、スカイネットが現実的な世界になってくるということだ。デイープラーニングによる機械学習が進んでいけば、冗談では済まされなくなる。

 

 

人工知能の制御とブロックチェーン技術

さて、ここでとんでもない組み合わせのように感じるのだが、実は人工知能を制御と言うか統制していく上では必要なことなんだそうだ。

 

現状のディープラーニングなどの技術では、機械が単純に学習することの繰り返していくので、もし意図した学習データを学んでいないとしたら、意図した範囲の動作を全くしない可能性が出てくる。

 

従って、どんな学習を何時したのかを記録していく必要が有り、それにブロックチェーン技術が活用できるのである。

 

そして、学習した人工知能が期待通りに動くのかを別の人工知能が監視するように設計する必要が出てくる。それが、ブロックチェーン技術の中で実施されている分散型システムを監視すると同じ機能なんだそうだ。

 

簡単に言うと、互いが互いを監視し合うシステムで制御を掛けるようなのだが、そこには落とし穴が存在しているみたい

 

ターミネーターと同じ時代はやってくるのか?

ターミネーターの世界ではスカイネットが絶対的な支配をしている。これも世界中のコンピューターがネットワークで接続された分散型システムだ。

 

しかしだ、先に書いた落とし穴とは、実際の分散型システムで信用の扱い方を判断するために、ビザンチン将軍問題というのが有るそうなんだ。

 

この分散型システムの信用を確認するために昔から使用されていることらしい。

ビザンチン将軍問題ビザンチンしょうぐんもんだい、英語Byzantine Generals Problem)とは、相互に通信しあう何らかのオブジェクト群において、通信および個々のオブジェクトが故障または故意によって偽の情報を伝達する可能性がある場合に、全体として正しい合意を形成できるかを問う問題である[1]フォールトトレラントシステムでの多数決の妥当性や分散コンピューティングの処理の妥当性に関わる問題と言え、二人の将軍問題を一般化したものと言える。

ビザンチン将軍問題に帰結される故障や障害をビザンチン故障Byzantine Failure、あるいはビザンチン障害)と呼ぶ。また、ビザンチン将軍問題が発生しても全体として正しく動作するシステムをビザンチンフォールトトレラントByzantine Fault Tolerance)があるという。

ビザンチン将軍問題 - Wikipedia

 

俺の頭では理解不能なので、これ以上は突っ込まないようにする。

 

つまりだな、分散システムで互いに関しがちゃんとできていば、一つのシステムが巨大な力を持ち暴走することは無いということだな。

 

スカイネットは全部が一つになり、巨大な力を持ち全てをコントロールしようとしたからあんな世界になったんだ。

 

だから、ターミネーターの世界がやってくると言うより、マトリックスの世界がやって来る方が現実的かも知れないね。

 

人間は単にコンピューターを動かすための動力源にしかなく、人間の意思は全てコンピューターの作った疑似世界の中で生きていくって感じ。

 

 

まとめ

たぶん、俺が生きている間にはやってこないと思うが、今の人工知能のあり方は見直していく必要があるんじゃないの。

 

少なくとも、人工知能人工知能を監視できなくなると、やはりターミネーターの世界はやってくることは間違いない。一説にはそう言っている科学者もいるようだ。

 

逆に楽観視している学者も居ることは間違いない。

 

結果的にどちらに成るのかは分からないが、少なくとも現状ではそれにつながる技術は日々開発され、修正を受けていることは間違いないね。

 

なんか俺が子供の頃に夢のようだった事が、間近に迫ってきているのは間違いないな。少なくとも、2001年宇宙の旅2010年宇宙の旅の時間は既に過ぎ去ったなのだから。

 

いや〜、本手面白いね。 何でこの技術がっていうのが、意外な所でつながっている。

 

勉強になるわぁ〜

 

おわり

 

今日も見に来て頂きありがとうございます。