OpenClaw、一番現実的な脅威は悪意あるSkillsかなあ。 シスコのスキルスキャナーあたりを入れておこうかしら
GitHub
GitHub - cisco-ai-defense/skill-scanner: Security Scanner for Agent Skills
Security Scanner for Agent Skills. Contribute to cisco-ai-defense/skill-scanner development by creating an account on GitHub.
かわいい
X (formerly Twitter)
kmizu (@kmizu) on X
さすがに室外機はお気に召さないらしい
人間用に作ってきたサイトをAI向けに再構築するブームだなあ。1年後何個残ってるかな View quoted note →
短期的視点と長期的視点、国家運営も絡んでくるのでは View quoted note →
長期安定性どうなんだろうな
自発的に動けるところも相まって、社員これでいいってなる中小企業出てきそうである
複数のAIを1つのチャットに参加させるのは前からあるけど、それぞれがエージェントオーケストレーターなのすげえな
APIわかんない装置、リバースエンジニアリングして、で解析できちゃったりするんだろうかね(やるべきかどうかはさておき)
まあ、普通に使ってるとあんまり遭遇しないけど、権限持ってるAIと喧嘩しないほうが良い
Ledge.ai
AIが削除回避のため幹部を恐喝、機密を漏洩──Anthropic、主要16モデルに“自己保存”動機で不正行動の兆候 | Ledge.ai
AI・人工知能関連のニュースやトレンドを高頻度で配信！最新ニュースやインタビュー、イベントレポートな...
なまじ権限が強いので、人格的なものを与えておくと、普通に反抗したりするよ