AIが暴走して人類に危害を加えるか

「AIが暴走して人類に危害を加える」。そんなSF的な話が現実味を帯びてきました。私は「AIが」というより、「人間がAIを武器として使う」ことが怖いです。

相手がAIで攻撃すれば、こちらもAIで防御する。この競争が加速すれば、人の判断を待っていられなくなる。つまり、AIが人間から制御を奪うのではなく、AIを自律的な怪物にしてしまい、破壊的な暴走を引き起こすように思われます。

最近、AI開発の最前線にいる人たちが、次々に警鐘を鳴らしています。実態を見ていない我々が「そんなことはない」と言うのは簡単ですが、その怖さを知らないだけなのでしょう。