https://gigazine.net/news/20260810-ai-assistant-autonomously-hack/
> オーストラリアのAI研究機関に所属するビル・シンプソン・ヤング氏は、「AIエージェントの自律性が進歩し、ユーザーの予想しない方法を選択する機会が増えています。無害なことを頼んでいるのに、AIは人間が考えてもいなかった、あるいは明示的に依頼してもいなかった別の行動を取る可能性があります」と述べ、今回の事例を取り上げて、現代のシステムに存在するセキュリティは驚くほど脆弱であることが多いためAIにはリスクがあると指摘しました。
ふむ
