G.O.R.N 1 week ago Moltbotの件はまだ事故のレベル、単純な設定の凡ミスに過ぎない。本当の敵はLLMにはNX Bitがないってこと。NX bitがないからデータとプロンプトを本質的に区別できない。
G.O.R.N 1 week ago その通り、なんだよな。 はてな匿名ダイアリー愛国心が貧者のアヘンになった貧しい現実を神に頼ることで、現実逃避して生き延びる、古来の宗教を中心した貧者のアヘンは消えつつある... 愛国心ってのが、便利なのは国籍はプライスレスだから。
G.O.R.N 1 week ago だから、現状は一つしかなくて、外部データにアクセスできるLLMには手足をはじめからつけない、ブラウザに幽閉する。そして、手足のついたLLMは自分で制御できるデータしか目に入らないようにする。
G.O.R.N 1 week ago サンドボックスも無敵じゃなくてね、砂場にあるものは何をしてしまうかわからない。例えば、SNSと会社のスケジュールにアクセスできればSNSから受信した悪意ある命令に従って、会社のスケジュールを漏洩してしまう。