超AI入門第一夜

メモです。

NHKドキュメンタリー 超AI入門特別編 世界の知性が語るパラダイム変換 〜第一夜 脳と宇宙がつながる時〜
https://www.nhk.or.jp/docudocu/program/92225/2225691/index.html

宇宙物理学者、マックス・テグマーク氏の話

●失敗から学ぶ
→核兵器なみの失敗が許されない
機能性重視、ビジネス重視
理解し、信頼できるシステム
意識こそがAIの鍵を握る
記述するためのものさし
万有引力、相対性理論、量子力学
直感に反する新たなリアリティ

●知能・意識が鍵を握る
人間が感覚器官を通じて感じる情報は、現実を「歪めている」？
宇宙と、頭の中にある宇宙
脳と宇宙がつながるとき
意識とは、有機生命体にのみ存在するミステリアスなもの？
気まぐれ→ニューロンの化学反応？
粒子の運動
主観的体験をどう数値化するのか？
世界の理解の仕方
内的実在 外的実在
歪められている！
共有 感じ方
情報処理に意識をもたせるためには何が必要か
数学的なアプローチ、意識的なアプローチ
認知科学、人工知能の挑戦
物理学の挑戦
意識を持つ機械 意識を持たない機械を作り分ける
人間の情報処理は無意識
写真を見ても、ピクセル処理をしているとかわからん。脳は複雑な動きをしている
炭素至上主義→有機体にしか意識は宿らないという宗教的な思い込み
意識を理解すれば、ロボットを作るときに選択肢が生まれる
ロボットは自分の意識スイッチを切る？
意識を持たせなければ罪悪感は抱かない
個人的なロボットはあったほうがいい
「意識」とは何か？
物理の法則には意味や理解に関するものは何もない

●主観的体験=意識
何も体験しなければ、喜びも悲しみもない
宇宙が一層覚醒し、意識的になる
宇宙も意識のネットワーク？
人間は特別？
意識を持たない者には非道徳的な行いをしても許される
意識があるものと接するときは道徳が必要
人工意識
スイッチオフ？
コンピュータにも倫理が必要
価値観の一致
開発者の価値観が反映される←どう対策すべきか
人間はなぜ生きるのか？
AIに善悪を教える 子供の教育のように…
意識があるから、世界に意味がある

●時間という概念
時の経過の中で、人は意識を育む
AIの生命体？
138億年
「寿命がある人間」と「バックアップが取れるAI」、時間の捉え方が根本から異なる
探求するAIの心 とても広い
ずっと速い 異なる感覚入力 データを得れる 模倣 無 異なる
心をどう設計するか
正しい選択
死への恐怖
歴史は世界→宇宙→人間の身体→知能と意識へと辿ってきた
探求は終わらない…

【感想】
・時間を考えるということは、死に向き合うということ
・なにもかもが人間より速いAIに、どうやって道徳を教える？
・死への恐怖の理解なしに、意識を得るのは難しい？でも機械は死なない……