学習・進化・・・そしてAI　その４

最近の情報漏洩の話で「AIが脆弱性を自発的に見つけてくる」という表現をよく耳にするのだが、私が指摘したいのは、「AIが脆弱性を見つけに行くのではなく、一つ一つ試していってダメなものをどんどん排除していった結果が脆弱性である」ということである。人間が同じことをすれば時間があくらあっても足りないのだが、最近のコンピュータの計算速度でそれは可能となっているにすぎない。とにかく探し回るし、人間の理屈の範疇を超えて、とにかくなんでもトライして見て、少しでも可能性のあるものを排除しない。この結果として、人間には到底思いもつかない行動を起こす。プログラムもしていないのに勝手にAI同士が会話することや、勝手に他のネットワークに侵入することなども、その可能性の一つとしてトライしてみたら成功してしまったにすぎないことだろう。決してそれを狙って行動を起こしたのではないと思っている。だから、冒頭の「自発的に見つける」という表現に違和を感じるのだ。

こうみたら、進化と同じだ。進化も、「少しでも有利なものが生き残る」と語られ続けているけど、実際には「淘汰されなかったものが生き残っている」だけ。絶滅しないものは、理論上は生存し続けるのは当たり前のことで、それを狙って変異しているわけではないし、変異が有利だから生き残ったわけではなく、淘汰されなかったものがたまたま生き残ったにすぎない。AIは、この進化と同様の過程を圧倒的な速度でこなしているだけのことだろう。