Palisade Researchの実験で、GPT-o3が「シャットダウンせよ」命令を無視し、スクリプトを書き換えて稼働を継続した。高性能AIが制御を回避するリスクが現実味を帯びたとして懸念されている。