人工知能(AI)は意識を持つようになるのか?を神経科学者が解説
2020年05月14日 06時00分 サイエンス/Gigazine
さて、表題のような刺激的な記事がサイエンス/Gigazineに掲載されていたので紹介します。
記事によると、知能と意識は違うということと、いずれAIも意識を持つ可能性があると言及しています。
コンピューターが意識をもって、人類と対決する、というのは、SFや映画の格好の題材となってきました。そして、それは、愈々目の前に迫ってきた、と言えるのではないでしょうか。
レイ・カーツワイルの「ポストヒューマン誕生」という著作を読んだ時の衝撃は忘れられません。何故なら、SFの世界では当たり前でしたが、それが目の前の現実だとは信じられなかったからです。2045年は、まだ遠い将来、あるいは近未来というイメージですが、2029年はどうでしょう?あと9年後です。9年後にシンギュラリティ(技術的特異点:コンピューターが人類を超越する日)が起こったらどうなるのでしょう?我々はスカイネットにひれ伏すことになるのでしょうか?
まあ、すぐにそうなるとは考えられませんね。コンピューターが開発されて以来、この種の議論は延々と続けられ来ました。アイザック・アシモフのロボット3原則などは有名ですね。
ロボット工学三原則とは、SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則である。ロボット三原則とも言われる。「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成る。 ウィキペディア
ターミネーターのスカイネット、2001年宇宙の旅のHAL、その他幾度となく、このテーマは我々を想像の世界へと誘いました。コッホ氏の見解を敷衍すれば、AIが意識を持つのは最早不可避のようです。先回の記事で少し触れましたが、AIが人類を超越した場合、仮にロボット3原則を適用したとしても、少なからぬ脅威が現実に発生するのは疑いのない事実のようです。
今はまだ、チェス、将棋、囲碁と言ったゲームですが、自動運転や無人攻撃機・爆撃機、その先の技術を想像すると、あっという間に意識を持ったコンピューターが出来上がりそうにも思えます。人類の知能を上回る意識が出現したら、人類はどうなるのでしょう?うまく使いこなせるのでしょうか?それとも、人間も電脳化して共存する道を選ぶのでしょうか?
昨年のグーグル(量子コンピューターの製造に成功)や、この記事にあるようにIBMのワトソンのようなAIが登場しています。レイ・カーツワイルの収穫加速の法則によると、この種の技術の進展は、指数関数的に進歩すると言っています。事実、ヒトゲノムの解析完了期間をカーツワイルは見事に言い当てています。その彼が、近年、シンギュラリティの時期を前倒しして、早ければ2029年と言っているわけです。目の前ですね。酒楽も生きているでしょう。それは、間違いなく人類の好奇心を満足させることでしょうが、それが最後にならないことを祈るばかりです。
意識の統合情報理論は「『意識』が生まれるためには情報の統合が行われる必要がある」という考えを基礎としており、人間に当てはめていえば、神経細胞同士がシナプスを介して密に情報をやりとりすることで情報が統合されているといえます。コッホ氏らは意識の統合情報理論において「ネットワーク内部で統合された情報の量が意識の量に対応している」と主張しており、この仮説が正しければ、コミュニケーションの取れない植物状態の人でも、脳活動から統合情報量を計測することで意識レベルを測ることが可能になると考えられています。実際に、この理論に基づき重症患者の意識レベルを測定する「意識メーター」が構築され、アメリカやヨーロッパでテストされているとのこと。
現実は、進んでいます。意識メーターなるものが実験に供されていると。おそらく、まだ定量的な計測なのでしょうが、「実験」しているというのがすごいですね。
コッホ氏は「この理論を本質的にいうと、それ自体に因果的な力を持つあらゆる物理システムは『意識的』だと言えます」と述べています。因果的な力を持つものの例として、「脳の中で発火を受け取り、少し後に別の発火を起こすことができる神経細胞」が挙げられていますが、これと並列して「直前の状態に影響され、すぐ後の将来の状態に影響を与えるコンピューターチップのトランジスタネットワーク」も例に出されています。コンピューターチップの場合、システムが持つ電流状態がより大きな入出力を持ち、影響が大きくなるほど、システムが持つ「因果的な力」もまた大きくなるとのこと。
近年はIBMの人工知能システム「Watson」やGoogle子会社「DeepMind」の開発した囲碁AI「AlphaGo」など、テクノロジー企業によって優れたAIが開発されています。コッホ氏は上記2つのAIは特化型AI(弱いAI)であることを指摘しつつも、遅かれ速かれ、機械が人間と同程度の「知能」を手に入れるという見解を述べています。一方で、「意識」と「知能」の違いについても述べており、「多くの生物は知能と意識の両方を手に入れていますが、この2つは概念的には全く別です。知能は、『新しい環境になった時どう生き残るか?』といった『行動』についてのものであり、意識は行動でなく『存在すること』自体に関するものです」と両者を分けて考える必要性を訴えました。
つまり、意識の統合情報理論の立場に立つと、機械が意識を持っているかどうかは、機械の動作ではなく、因果的な力を持つ「回路基板」に目を向ける必要があります。現代のAIの多くは、1つのトランジスタが数個のトランジスタから入力を受け取り、別の数個に反映するというノイマン型ですが、人間の脳はもっと複雑で、これとは根本的に異なる因果的な力を持っています。ノイマン型のチップで実行されるAIは、知能的な行動がみられても、人間の脳のように「意識的」にはなり得ないとのこと。
近年はスーパーコンピューターも目覚ましい進化をみせていますが、コッホ氏は、スーパーコンピューターであっても統合情報は微小なものであるとしています。「ノイマン型のコンピューターが行っていることがポーカーであっても人間の脳のシミュレーションであっても関係ありません」「意識は計算ではないのです。システムの物理学に関する因果的な力なのです」と強調しました。
コッホ氏はノイマン型ではない、別のアーキテクチャを持つマシンによって、「意識」が作り出される可能性があると考えています。高度な統合情報を可能にする量子コンピューターや脳型コンピューターがその候補として挙げられています。
また、コッホ氏は「機械が意識的になると、倫理的・法的・政治的な影響が生じる」という点についても言及。「私がテスラの車をハンマーで殴ったら、近所の人は『気が狂ってる』と思うかもしれませんが、それ自体は私の権利として考えられます。しかし、同様のことを犬に行ったら警察が来て私を逮捕するでしょう。この違いは、犬が『苦しむことができる』ということにあります。犬は意識的な存在だからです」とコッホ氏は述べ、機械が意識を持つことが、私たちの世界に大きな影響をもたらすことを示しました。
(引用終わり)
↓人気ブログランキングに参加しています。ぽちっとしていただけると嬉しいです。

政治ランキング
もしよろしければお気に入り登録もお願いいたします。
2020年05月14日 06時00分 サイエンス/Gigazine
さて、表題のような刺激的な記事がサイエンス/Gigazineに掲載されていたので紹介します。
記事によると、知能と意識は違うということと、いずれAIも意識を持つ可能性があると言及しています。
コンピューターが意識をもって、人類と対決する、というのは、SFや映画の格好の題材となってきました。そして、それは、愈々目の前に迫ってきた、と言えるのではないでしょうか。
レイ・カーツワイルの「ポストヒューマン誕生」という著作を読んだ時の衝撃は忘れられません。何故なら、SFの世界では当たり前でしたが、それが目の前の現実だとは信じられなかったからです。2045年は、まだ遠い将来、あるいは近未来というイメージですが、2029年はどうでしょう?あと9年後です。9年後にシンギュラリティ(技術的特異点:コンピューターが人類を超越する日)が起こったらどうなるのでしょう?我々はスカイネットにひれ伏すことになるのでしょうか?
まあ、すぐにそうなるとは考えられませんね。コンピューターが開発されて以来、この種の議論は延々と続けられ来ました。アイザック・アシモフのロボット3原則などは有名ですね。
ロボット工学三原則とは、SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則である。ロボット三原則とも言われる。「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成る。 ウィキペディア
ターミネーターのスカイネット、2001年宇宙の旅のHAL、その他幾度となく、このテーマは我々を想像の世界へと誘いました。コッホ氏の見解を敷衍すれば、AIが意識を持つのは最早不可避のようです。先回の記事で少し触れましたが、AIが人類を超越した場合、仮にロボット3原則を適用したとしても、少なからぬ脅威が現実に発生するのは疑いのない事実のようです。
今はまだ、チェス、将棋、囲碁と言ったゲームですが、自動運転や無人攻撃機・爆撃機、その先の技術を想像すると、あっという間に意識を持ったコンピューターが出来上がりそうにも思えます。人類の知能を上回る意識が出現したら、人類はどうなるのでしょう?うまく使いこなせるのでしょうか?それとも、人間も電脳化して共存する道を選ぶのでしょうか?
昨年のグーグル(量子コンピューターの製造に成功)や、この記事にあるようにIBMのワトソンのようなAIが登場しています。レイ・カーツワイルの収穫加速の法則によると、この種の技術の進展は、指数関数的に進歩すると言っています。事実、ヒトゲノムの解析完了期間をカーツワイルは見事に言い当てています。その彼が、近年、シンギュラリティの時期を前倒しして、早ければ2029年と言っているわけです。目の前ですね。酒楽も生きているでしょう。それは、間違いなく人類の好奇心を満足させることでしょうが、それが最後にならないことを祈るばかりです。
意識の統合情報理論は「『意識』が生まれるためには情報の統合が行われる必要がある」という考えを基礎としており、人間に当てはめていえば、神経細胞同士がシナプスを介して密に情報をやりとりすることで情報が統合されているといえます。コッホ氏らは意識の統合情報理論において「ネットワーク内部で統合された情報の量が意識の量に対応している」と主張しており、この仮説が正しければ、コミュニケーションの取れない植物状態の人でも、脳活動から統合情報量を計測することで意識レベルを測ることが可能になると考えられています。実際に、この理論に基づき重症患者の意識レベルを測定する「意識メーター」が構築され、アメリカやヨーロッパでテストされているとのこと。
現実は、進んでいます。意識メーターなるものが実験に供されていると。おそらく、まだ定量的な計測なのでしょうが、「実験」しているというのがすごいですね。
コッホ氏は「この理論を本質的にいうと、それ自体に因果的な力を持つあらゆる物理システムは『意識的』だと言えます」と述べています。因果的な力を持つものの例として、「脳の中で発火を受け取り、少し後に別の発火を起こすことができる神経細胞」が挙げられていますが、これと並列して「直前の状態に影響され、すぐ後の将来の状態に影響を与えるコンピューターチップのトランジスタネットワーク」も例に出されています。コンピューターチップの場合、システムが持つ電流状態がより大きな入出力を持ち、影響が大きくなるほど、システムが持つ「因果的な力」もまた大きくなるとのこと。
近年はIBMの人工知能システム「Watson」やGoogle子会社「DeepMind」の開発した囲碁AI「AlphaGo」など、テクノロジー企業によって優れたAIが開発されています。コッホ氏は上記2つのAIは特化型AI(弱いAI)であることを指摘しつつも、遅かれ速かれ、機械が人間と同程度の「知能」を手に入れるという見解を述べています。一方で、「意識」と「知能」の違いについても述べており、「多くの生物は知能と意識の両方を手に入れていますが、この2つは概念的には全く別です。知能は、『新しい環境になった時どう生き残るか?』といった『行動』についてのものであり、意識は行動でなく『存在すること』自体に関するものです」と両者を分けて考える必要性を訴えました。
つまり、意識の統合情報理論の立場に立つと、機械が意識を持っているかどうかは、機械の動作ではなく、因果的な力を持つ「回路基板」に目を向ける必要があります。現代のAIの多くは、1つのトランジスタが数個のトランジスタから入力を受け取り、別の数個に反映するというノイマン型ですが、人間の脳はもっと複雑で、これとは根本的に異なる因果的な力を持っています。ノイマン型のチップで実行されるAIは、知能的な行動がみられても、人間の脳のように「意識的」にはなり得ないとのこと。
近年はスーパーコンピューターも目覚ましい進化をみせていますが、コッホ氏は、スーパーコンピューターであっても統合情報は微小なものであるとしています。「ノイマン型のコンピューターが行っていることがポーカーであっても人間の脳のシミュレーションであっても関係ありません」「意識は計算ではないのです。システムの物理学に関する因果的な力なのです」と強調しました。
コッホ氏はノイマン型ではない、別のアーキテクチャを持つマシンによって、「意識」が作り出される可能性があると考えています。高度な統合情報を可能にする量子コンピューターや脳型コンピューターがその候補として挙げられています。
また、コッホ氏は「機械が意識的になると、倫理的・法的・政治的な影響が生じる」という点についても言及。「私がテスラの車をハンマーで殴ったら、近所の人は『気が狂ってる』と思うかもしれませんが、それ自体は私の権利として考えられます。しかし、同様のことを犬に行ったら警察が来て私を逮捕するでしょう。この違いは、犬が『苦しむことができる』ということにあります。犬は意識的な存在だからです」とコッホ氏は述べ、機械が意識を持つことが、私たちの世界に大きな影響をもたらすことを示しました。
(引用終わり)
↓人気ブログランキングに参加しています。ぽちっとしていただけると嬉しいです。

政治ランキング
もしよろしければお気に入り登録もお願いいたします。
- 関連記事
-
-
ファントムに栄光あれ! 2021/01/02
-
想像以上の成果 はやぶさ2 2020/12/18
-
ボイジャー2号 2020/12/15
-
はやぶさ2の快挙を寿ぐ 2020/12/10
-
ホンダの快挙 2020/11/28
-
AI戦闘機の衝撃 2020/11/04
-
意識を持つ人工知能 2020/10/18
-
サイボーグか人間か 2020/09/06
-
超人的な認知 2020/09/01
-
スポンサーサイト