シンギュラリティに飽きた死にたい

その他

3 Res.　0 MONA　1 Fav.

1 ：名無し一級：2024/05/02 20:54:17  0MONA/0人

生きるけど( ﾉД`)ｼｸｼｸ…

2 ：名無し一級：2024/05/05 18:40:23  0MONA/0人

なかなか壮絶な内容。
まず、人類の知能を圧倒的に上回る汎用知能である「スーパーインテリジェンス」は、様々なハードルはあるもののいずれ達成されることがほぼ確実であることについての詳細説明があり、
これがものすごく面白かった。
達成の手段として、著者は、人工知能の自己学習プログラム及びハードウェアの発展による（いくつかの技術的ブレークスルーが必要）
マシンインテリジェンスの実現（どのように汎用知性を手に入れるかに関して現時点で保証できる確実なボーダーラインである「生物進化のシステム上での再現」は
計算能力の観点で完全な実現は不可能であるが、例えば脳神経科学の発展に伴う技術的革命や発見によってこれよりショートカットの手法が見つかることは十分に考えられる）や、
人間の頭脳を物理的に解析して再現構築する全能エミュレーション（解析技術や構築技術の著しい発展により達成可能で、技術的ブレークスルーは不要）、
生身の生体脳の強化（エンハンス。優生遺伝やゲノム操作等により実現可能だが、超絶知能とまではいかない）、人間の脳とコンピュータの接続による強化（結局脳の構造や情報処理のしくみが解明されなければならず、これができるなら人工知能アプローチによるマシンインテリジェンスも達成可能か）、
集合知によるスーパーインテリジェンスの達成（広義での緩やかな達成のイメージ）などが挙げられており、これらが並行して進捗すれば、
あるプロジェクトの成果や発見が他のプロジェクトの前進を促す効果も考えられ、いずれほぼ確実に少なくともいずれかの方法で達成されると予測していた。
そして、人類と同等の汎用人工知能が達成されると、瞬時にスーパーインテリジェンスが達成される可能性が高いことにも同感。
そうなってから超知能のコントロール方法を考えても時すでに遅しで、今のうちから研究し、準備しておかなくてはならないと警鐘を鳴らしていることにも同感。

3 ：名無し一級：2024/05/05 18:40:28  0MONA/0人

だが、コントロール問題は一筋縄ではいかない。超知能の最終目標の設定に関して、まず人間が自らの意図を自らが理解でき納得できる形で定義できるか、
できたとしてそれを超知能が誤解や曲解をする恐れのない形で表現できるか といった、哲学的な難問である。そもそも、今後知能が向上していくかも知れない人類のうち、
超知能を開発する時期という特定世代の人類の持つ価値を絶対的指標とするのか といったことも考慮せねばならない。
（歴史をみれば、例えば数百年前の人類の至上と考える価値と現代の人類の価値は異なる）
ひとたび超知能が走り出せば、一見無害に思える最終価値の設定をしていても、超知能がその結果の達成のみを最重要視する過程で、世界を破滅に追いやることが考えられるのであり、
例えば、ある砂浜の砂の数を数えることを至上命題とする超知能は、数え間違いの恐れを極小化するために自らの計算機構の能力の最大化を図り
宇宙全体を自らの計算素子に作り替えるかも知れないのである。
これは、本書を読んで気づかされた恐ろしい観点だった。著者は、目標設定は非常な難問であり、まだ解は出ないが、例えば、超知能に人間の意図するところを探求させ、
十分に間違いないという確信が得られるまでは特定目的のために現実世界に多大な影響を及ぼす行動に出ないように保守的な設定を施しておくような手段が有効ではないかと提言してくれている。

スーパーインテリジェンスのコントロール問題は、人類史上最も重要で最も困難な問題であり、今のところ、超知能の達成に向けて無邪気に進んでいる人類は、まるで、爆弾で遊んでいる幼児のようなものだということだった。

ログインすると、投稿したり、MONAをもらったりすることができます。質問したり、答えたりしてMONAを手に入れてください。