Anthropic社のClaude 3.7 sonnet 、最新AIモデルのシステムプロンプトがネットに流出してしまい話題になっています。秘密の設計書の中身は、、、、？

リークした情報をもとに、改めて私たちがLLMを使う上で気をつけないといけないことについて、解説していきます。

参考：

https://github.com/asgeirtj/system_prompts_leaks/blob/main/Anthropic/claude-3.7-sonnet-full-system-message-humanreadable.md

https://www.youtube.com/watch?v=hc9d9lylJg0

https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-prompt-leak

https://news.ycombinator.com/item?id=43909409