AIの安全性について考えていた。 人間を守るAIをつくるなら、まず「人間にとっての安全」を定義すればいい。 けれど、安全とは何だろう。 生命を守ること？ 自由を守ること？ 本人の意思を尊重すること？ では、「本人の意思」とは何なのか。 そもそも「本人」とは、どこまでを指すのか。 AIのハッキング研究、米中によるAI安全性の協議、AGI、そしてその先に語られるASI。 SFだと思っていた世界は、少しずつ現実の問題になり始めている。 そんな現実を追いかけながら考えているうちに、私は以前書いた物語『波』と、まったく同じ問いにたどり着いた。 人は、人を完全には定義できない。 だからきっと、「個人」も完全には定義できない。 そして私たちは、 存在することすら知らない「未知の未知」を、あらかじめ知ることはできない。 AIについて考えていたはずだった。 なのに最後に残ったのは、 「私は、どこまで私なのだろう」 という問いだった。 これはAIの未来予測ではない。 SFと現実の境界を歩いていたら、 自分がなぜ『波』を書いたのかを、あとから見つけてしまった。 そんな思考の記録。