超知能のムラゴンブログ

このタグの読者になる 0

『超知能AIを作れば人類は絶滅する』（早川書房）エリーザー・ユドコウスキー＆ネイト・ソラレル著、桜井裕子訳スーパーインテリジェンスが人類を絶滅させる恐ろしい未来 “AIマゲドン”はいかなる手法で世界を破滅させるのだろう？

原題は「IF ANYONE BUILDS IT，EVERYONE DIES」で、『誰かがそれを作れば、みんな死ぬ』だ。まさにAI論議たけなわのタイミングだから、全米でベストセラーとなった。評者（宮崎）、じつは原書を半分ほど読んでいたが、AI用語で分かりづらいところがあり、そんなときに日本語訳がでてい... 続きをみる
- 人類
- 人間
- 意識
東アジア歴史文化研究会東アジア歴史文化研究会のブログ 2026/05/24 11:00
AI開発の全面停止を含む、AIを制限するための国際協定を提唱意思決定を左右するAIシステムに組み込まれた価値観を誰が決定するのか？（宮崎正弘国際情勢）

AIは道徳的であることはできない。それなら、宗教はAIに道徳を教えることができるだろうか？人間が意思決定のために人工知能に頼るようになるにつれ、宗教はこうした「大問題」に決定的な関与を試みる必然が生まれる。エリエゼル・シュロモ・ユドコウスキーは、人工知能研究者と世界的にして知られる。彼は意思決定... 続きをみる
- 道徳
- 意思決定
- 宗教
- 倫理
東アジア歴史文化研究会東アジア歴史文化研究会のブログ 2026/05/17 10:00
最後の発明

YoutubeでAI安全の専門家ロマン・ヤンポルス（以下、先生と記載します）の動画を見ました。長い動画なのでリンクも割愛しますが、卓越した人ならではの発言が多くみられるので見ごたえはありました。内容をご紹介します。「汎用的（なんでもできる感じに）に動作するAI（超知能）は人が制御できなくなるので... 続きをみる
Sonouchi Sonouchiブログ 2025/11/25 18:00
# 超知能
- OpenAI「Industrial Policy for the Intelligence Age（知能時代のための産業政策）」全文和訳
- ぜんぶAIが決めてくれる世界ってどう思う？～人工知能社会での「選択」と「自由」を考える本10冊
# はなまる生活
# ベトナム駐在員