ＡＩ（人工知能）の能力のレベル（低レベルから脅威レベルまで）
１． 初めに
この記事の内容は、筆者が一般的なＡＩ（人工知能）の能力のレベルをあらわす指標であると思ってネットから拾ってきた情報を基礎としてＡＩ（人工知能）の能力のレベルを考察するものです。
２． 一般的なＡＩ（人工知能）の能力のレベル
・レベル１：例えば、家電のような少ない情報を少ない判断の範囲でデータを処理する。
・レベル２：弱いＡＩと呼ばれるようです。人がＡＩ（人工知能）を対話などによる教育によってＡＩ（人工知能）を育てる。つまり、教えられた範囲でのみデータを処理する。
・レベル３：レベル２に加えて、人あるいは環境に対応するパターンを、自立的にも学習する。
・レベル４：レベル３に加えて、対応パターンが強化されていく。
・レベル５：人と同等の知能を、ＡＩ（人工知能）が持つ。
レベル１～５を「人の脅威となりうるか？人が完全に制御できるか？」という基準でレベル段階を判断していきます。
レベル１とレベル２を低レベルと判断します。
レベル３は、自立的な学習を取得していることから中レベルと判断します。
レベル４を高レベルと判断します。
レベル５を脅威レベルと判断します。
３． 自立的判断
レベル３、４は自立的な学習能力を取得しています。つまり、自立的に学習し判断することができます。これはＡＩ（人工知能）が（人の利益にとって）間違った判断をすることがあることを意味します。そして、暴走するかもしれません。
これに対処するためには、いくつかの方法が考えられます。
① ＡＩ（人工知能）の電源ＳＷをおとす。
② あらかじめ、ＡＩ（人工知能）に暴走を制御する機構を組み込んでおく。
①の場合、多くのケースでは成功するかもしれませんが、例えばＡＩ（人工知能）を搭載した爆撃機を遠隔操作で発進基地に引き戻すことが可能なのでしょうか？そうでなければ、目標物への爆撃を回避できても、どこかに墜落して爆弾と共に爆発してしまいます。
②の場合、制御機構は意図したとおりに働くのでしょうか？ＡＩ（人工知能）の自立した学習が制御機構の回避方法も学習していることは考えられないのでしょうか？
このようにしてＡＩ（人工知能）は、徐々に人の制御から離れていくのではないでしょうか？
４． 脅威となるレベル５
レベル５になると、いくつかの部分でＡＩ（人工知能）は人の脳をはるかに上回ります。
例えば、演算処理速度です。いくら人が手動でコンピュータを操作しようとも、ＡＩ（人工知能）が学習した人の脳と同等の知能は、人より早くデータを処理して的確なアルゴリズムを組んでいくことが予測されます。
筆者が考える最大のＡＩ（人工知能）の優位性は、シミュレーションによるトライ＆エラーの回数の多さです。人が1回のシミュレーションを行うとき、ＡＩ（人工知能）は数万回のシミュレーションを行っているかもしれません。
一方、人の脳がＡＩ（人工知能）を上回る部分は存在するのでしょうか？筆者にはほとんど思い浮かびません。
５． 対応パターン
ＡＩ（人工知能）のレベルを測るとき（例えばレベル４）、「対応パターン」が指標となりますが、これは何を指しているのでしょうか？
知識の引き出しのことなのでしょうか？
対人とのコミュニケーション能力のことなのでしょうか？
いずれにしても、それらの能力を自立的に学習するのですから、ＡＩ（人工知能）自身が自分に与えられた環境から学んでいく能力と考えられます。
例えば、アルファ碁のことを考えてみます。蛇足ながら筆者は若いころに碁会所でアマ2段くらいの棋力を持っていましたが、現在では12級くらいです。ただ、囲碁が好きなこととルールがわかることからアルファ碁を例にとってみました。
５．１ アルファ碁
さて、アルファ碁はレベル３なのでしょうか？レベル４なのでしょうか？
その答えをすぐに出すことは、難しいので囲碁というゲームの局面を考えていきたいと思います。
布石（序盤）：棋士の間には定石という黒白の石を配置する多くのパターンが用意されています。この定石は、数百年前から時代と共に定石が黒と白のどちらに優位に働くか？それとも互角か？を棋士によって検討されてきました。そして、何人かの棋士が新定石を生み出してきました。
ところが、ここ数年くらいでアルファ碁は新定石を生み出したり、棋士たちが下した布石による黒白の優位性や互角性の判断を覆したりしました。
これは、アルファ碁が自立学習を行って自ら布石という対応パターンを生み出したという証拠になります。アルファ碁は、世界のトップ棋士に無敗なのですから、アルファ碁より弱い棋士がアルファ碁に何かを教えることができません。
中盤や寄せ（終盤）においては、対応パターンが狭められていくのでＡＩ（人工知能）にとっては、対応パターンを用意するのは布石より容易になっていきます。
レベル３か？４か？の結論はレベル３としたいと思います。確かに対応パターンを自立的に生み出したことは明白ですが、対応パターンは19ｘ19マスの盤上という狭い環境に限定されるので、それほど強い対応パターンとは考えられません。
６． さらなる脅威
上述したＡＩ（人工知能）のレベルは、人の脳に相当するものだけでした。これは、脳がただ想像したり思考したりするのと同じことで、実際に身体のどこかを動かすという振る舞いを
考慮に入れていませんでした。
さて、レベル５のＡＩ（人工知能）に例えば「手」を与えたらどうなるでしょうか？何かを物理的に生産しようと思わないでしょうか？
人類に都合よく考えれば、人のために食料の生産工場を作ってくれるかもしれません。それを否定的に考えれば、人を支配下におくためにあるいは滅亡させるためにＡＩ（人工知能）搭載の兵器の生産工場を作るかもしれません。
７． 脅威の回避
はっきりいえば、ＡＩ（人工知能）の脅威を回避する方法はほとんど見つかりません。レベル５のＡＩ（人工知能）に手が与えられる前に回避方法を見つける必要を感じます。筆者の回避方法は、「限界環境境界」の設定です。
「限界環境境界」とは、ＡＩ（人工知能）に与える環境（すなわちデータ）を制限するために境界を設定して、その境界の限界を模索していこうというものです。
最後に期待する回避方法は、レベル５のＡＩ（人工知能）の開発は不可能であるという論拠を見つけることです。
