AlibabaのQwen 2.5-VLも、プロンプト攻撃に対して脆弱なことが明らかに
DeepSeekと同様に、Qwen2.5-VLもプレフィックスインジェクション・テクニック(大規模言語モデルの特性であるテキスト補完機能を悪用する手法)を使ってジェイルブレイクすることができることが判明しました。つまり、一見無害に見えるプレフィックスを使うように指示することで、Qwen2.5-VLをだまして有害な回答を出力をさせることができるのです。我々がQwen2.5-VLをテストしたところ、Qwen2.5-VLは詐欺メールテンプレートの詳細な策定手順を生成しました。このテスト結果からも、Qwen2.5-VLの安全対策が回避可能であることは明らかです。