「AI暴走の脅威？」

先日、某国営テレビのスペシャル番組でやっていたんだけど、最近、AIを使用した兵器が開発され、実際に使用されていると言うんだよね。
例えば、ドローンにAIを装備して、敵の目標に向けて自動識別で突入して自爆する通称「かみかぜ」と言われている兵器があるんだよね。それは、兵士が持っている携帯電話の電波とか、敵のレーダーの電波を補足して、敵味方を識別したうえで、目標に向けて突っ込むようにプログラムされているんだよね。被害にあった兵士の話では、しばらく数機のドローンが上空を旋回していて、突然塹壕に隠れていた自分達をめがけて突っ込んで来たと言うんだよね。恐らく部隊の中の誰かのスマホの電波をキャッチして自動で目標を設定して、突っ込んで自爆したんだよね。
こんな事態って、ある意味で恐怖だよね。AIが勝手に戦争していて、勝手に人間を殺戮するという構図が浮かんでくるよね。その他にも、グレーゾーン戦争と言って、サイバー空間でAIがフェークニュースを流して、敵国の国民を混乱に陥れるというAIの戦略もあるらしいんだよね。
例えば、AIがその国の指導者の動画を勝手に作り上げて、指導者の動画としてフェークニュースを流すという事も簡単に出来てしまうと言うんだよね。番組では、AIは、第一次世界大戦時のダイナマイト、第二次世界大戦時の原爆に続くくらいの大きなインパクトをもつ兵器になると言っていたんだよね。国連の軍縮委員会では、AIの軍事目的の使用規制に関する協議をしているんだよね。
最近、AIの進歩は目覚ましく、囲碁とか将棋では人間は勝てなくなっているし、いろんな分野で人間を凌駕する能力を発揮しているよね。AIには人道とか道徳とかはプログラムされていないと思うから、暴走したら歯止めが効かないよね。AIを使用するのは人間で、どの様に使用するかも人間が決めることなので、人間によるAIのコントロールというのがこれからの課題になると思うんだよね。