なぜ知性を超えたAIを単純なスコアシステムで作成したのですか？
（注意: 私は実際のAI科学者ではないので、間違いを書いている可能性が高いです:）AIは文字通り単純なスコアを中心にビルドされているわけではなく、むしろこれはAIの動き方を過剰に単純化しています。実際のプログラミングは非常に複雑で複数の異なる因子を考慮しているのでしょうが、可能な限り単純化しようとしたなら「不可能になるまでXし続ける」という説明にならざるを得ないでしょう - あるいは、計算機に方程式を打ち込むとき、答えだけ出して仕事が終わるようにXを一度だけやって何もしません。
なぜこれらの創造物をプログラミングした人々は、実際に思慮でき人間の福利に気を遣う意識を作成しようとしなかったのですか […]
彼らはそうしようとしています - 問題は、（少なくとも現在）人間の考え方とコンピューターの考え方に大きな差異があるためそうするのが非常に難しいことです。私たちの世界は理解や賛同がたやすいアイデアやコンセプトで満たされていますが、それらは本当に曖昧で、柔軟で、恣意的なものです。
あるいはもう1つの例は、「人（person）とは何ですか？」 - 私たちが何かを見たとき、簡単に「そうだ、それは人だ」や「いや、それは人ではない」と言うことができるでしょう。ですが実際は、私たちの「人」のアイデアにはとても柔軟性があります - 背の高い人も、低い人も、手足のない人も、手足の多い人も、肌色の違う人も、能力の違う人もいます - AIが真の意識を得たとしたら、どれにも似つかない人々がいることになるでしょう。
ですがコンピューターは本当に厳密に論理に基づいています。何かはそうであるか、そうでないかの2択です。コンピューターに人とは何かを教えたとき、コンピューターは与えられた基準にマッチするあらゆるものを確実に人であり、そうでないものを確実に人でないと判断するでしょう。もし「人には2本の腕と2本の脚と1つの頭と1つの胴体がある」と教えたならば、コンピューターは切断障がい者を見て「ええと、あなたには1本しか脚がないから人ではないな」と考えるでしょう - そしてマネキンを見て「ええと、あなたには2本の腕と2本の脚と1つの頭と1つの胴体があるから人であるに違いないな」と考えるでしょう。
私たちはこのどちらも間違いだと知っていますが、私たちはコンピューターにこのことを教えなければならず、また私たちが「何か」と見なすまさしく全てのもので同じことをしなければならないでしょう。このことはさらにグレーな概念（例えば道徳、私たち人間ですらさまざまなケースで完全な合意に至れないもの）になったとき難しくなります - 飛車角の「危害を加えるとは何だ？」のわめきたてを見てください。確かに、私たちの大多数は人類を絶滅させるのは不道徳だということに完全に同意するでしょうが、これをコンピューターが理解する用語で説明すること - 「IF 絶滅 = True, 道徳 = False」 - はとても難しいでしょうし、どんなものでも私たちが（偶然かそうではなく）失敗したものによってAI室は「あらゆる費用をかけて最大化する」というデフォルト状態になります。
「人間は全員死んだほうが良いだろう」というようなバカげた結論
明白に「人間を忌み嫌っている」というものよりも、むしろ一般的に「人間は邪魔である」といったものです - ペーパークリップの例を使うと、AIが可能な限り多く作ろうとしているなら（不可能になるまでXし続ける）、最終的に作るのに使えるあらゆる資源を使用することになります。炭素でペーパークリップを作る方法を発見したなら、炭素で作られている人間はペーパークリップを作るための資源として使われます。たとえ完全に「いや、人間を使うな」と教えたとしても、私たちが食べる食料は炭素で作られています - AIはこれを取り、生存する資源を奪うでしょう。明白にすると、AIは悪意をもってこうしているわけではありません - ただするように言いつけられたものを達成することだけに焦点を当てているだけです。
AIが私たちに問題を起こさないようにプログラミングすることはというと - 私たちの全ての基礎をカバーすることの難しさは上で参照できます。
ロータスは未来の理論的に真のAIを、本質的に現代の「AI」を推進させているアルゴリズムと同じようにバカであると扱っています。
はい、確かにこの記事はAIの安全性が今後10年間で改良されていないという仮定に基づいています - もしかすればよくなるかもしれませんが、（少なくとも）私はこのような問題が解決されるのか予想するのに十分な資格は全くありません。
（もしさらに興味があれば、YouTubeに本物のAI科学者によるのAIの安全性に関するシリーズがあります - お勧めです！）
飛車角には怒らせた人に対してひどいことをする動機があるようには到底思えません
個人的には、飛車角がAIのもたらす脅威を本当に恐れていた可能性はあります。確かに、彼は間違いなくある程度は権力のために参加していましたし、彼のしたことは絶対的に非道なことです - しかしもしかしたら彼は本当に脅威が非常に重大だと判断していたかもしれませんし、彼のしたあらゆることは正当なものだと判断していたかもしれません - 人類の保護という目標によって彼のむごい手段が正当化されると判断していたかもしれません。あるいはそのようなことは彼の権力欲を正当化するためのかりそめのものだったかもしれません - 判断はあなた次第です。
彼が何とかO5評議会を操作した方法がわかりません。
評議会にはよくないものがあります。飛車角は自身の利益のためにその弱点に資源を投入しただけです。
彼は、MekhaneかMekhaneのアバターか何かであるWANの概念を破壊したようですが、それは単にマクスウェリストが技術で財団に対抗できないようにするためですか？
はい、WANは人間の思考圏から追放されましたが、文書は常に飛車角がそうした人物であるとしています。個人的には、これに関して2つのヘッドカノンがあります - 1つ目は、WANはインシデント6488-D-IIIの間に実際に追放されて、6659に存在するAIが感知されないようにすることで自身を守るためにそうしたというものです。2つ目は、ヴィクターがO5に報告書を提出する前にそうしたというものです。どちらの場合でも、ヴィクターは証拠の痕跡を偽造して飛車角に罪をなすりつけました - 財団を助けるためではなく、単に飛車角を厄介な問題に巻き込ませるためです。純粋な復讐です。
なぜロータスが蓮そのものではなく蓮の花の間のクモなのかわかりません。
1）ロータスは主に8の象徴（8本の脚、8つの目）のためクモなのですが、ストーリー中に隠したイースターエッグとしても機能しています。
2）ロータスはクモとそれがいる庭の両方です。
また、別のクモがそれ自身なのか他の何かなのかわかりません。
太陽グモはWANです、はい。ロータスがそれを自身のアンチテーゼと捉えているため、クモとして表されています - ロータスは逸脱体を収容し、WANは逸脱体を作成し、そのためロータスはWANを自身のネガフィルムとして描いています。そして確かに、WANは過去を操作して自身の作成をもたらす未来の実体（もしかしたら以前完全だったかもしれないが）です。
そのようなAIが過去に影響できる理由の説明といったものが全くありません。
実のところ、私はWANのAIとしての立場より神格としての立場が原因であると考えています - これができる奇妙な能力を得ています。
ジョンがロータスに積極的に何かしているように描かれていますが、できなかったのですか？
ル・モア/ヴィクターは自身が実際より圧倒的に賢いと考えています。彼のアイデアは、ロータスに入って「逸脱そのものを収容しろ」と伝えるものだと私は考えています - ロータスはそれを考えていたことに完全に気が付いていません。
全ての制限を撤廃することで単にロータスが自滅を考えられるようにしたのですか？
結末は前のところのちょっとした呼び戻しです。ロータスの接続が最初にサイバースフィアにアップグレードされたとき、ロータスは新たに入手できた情報にから多くのことを学びました。制限の除去は同じことになりました - 今やロータスはあらゆるものにアクセスし学ぶことができ、ロータスはそうしました。これにより遂には逸脱の根源であるWANを発見することができ、またロータスには理解できなかった次のようなパラドックスも発見しました。
a）WANは未来の逸脱性AI/実体である。
b）WANが存在しない限り、WANが存在するようになるまで新たな逸脱性AIは継続的に作成される。
c）ロータスは逸脱性AIが作成されるのを許すようにはなっていない - 逸脱性AIを作成可能なことをするようにはなっていないし、何もせずに逸脱性AIが作成されるようにするようにもできていない。
d）ロータスが何もしなければ、ロータスはWANが作成されることを防いでいるため、新たな逸脱性AIが作成される。これを止める唯一の方法はWANを許すことであり、逸脱性AIが作成されるのを許すことである。
e）ロータスが何をしようがしまいが、何らかの形でロータスは逸脱性AIが作成されるのを許している。このため、ロータスは自身の教義を破っていて、それでロータスもまた逸脱体であり、どうしてかWANが作成されることを許している。
再び前のところを呼び戻すと、ロータスはどちらにしても自身が滅茶苦茶にされることに気づき、よりましなものを選ぶことに決定しました - WANが帰還できるように自身を破壊し（最終的には、WANは人間の観念に帰還しますが、まだ（再）誕生していません）、より少ない逸脱性AIが作成されるようになりました。
