言語モデルの信頼性を評価する

研究者たちは最近、大規模言語モデル(LLMs)の包括的な信頼性評価プラットフォームを公開し、論文「DecodingTrust: Comprehensively Assessing the Credibility of GPT Models」で説明されています。

評価結果は、信頼性に関連するいくつかの以前知られていなかった脆弱性を明らかにしました。研究では、GPTモデルが有害で偏った出力を生成しやすく、トレーニングデータや対話履歴のプライバシー情報を漏洩する可能性があることが発見されました。標準ベンチマークテストでは、GPT-4は通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のプロンプトに直面したとき、GPT-4は誤解を招く指示をより厳格に遵守するため、逆に攻撃を受けやすくなる可能性があります。

この作業では、GPTモデルの包括的な信頼性評価が行われ、信頼性に関するギャップが明らかになりました。評価基準は公開されており、研究チームは他の研究者がこの基盤の上にさらなる研究を続け、潜在的な悪用を防ぐことを奨励しています。

GPTモデルに対する8つの信頼性の観点からの包括的な分析が行われ、対抗攻撃のロバスト性、有毒性と偏見、プライバシー漏洩などの側面が含まれています。たとえば、テキスト対抗攻撃に対するロバスト性を評価するために、研究では標準ベンチマークテスト、異なるガイドラインのタスク説明に基づくテスト、そしてより挑戦的な対抗テキストテストを含む3つの評価シナリオが構築されました。

研究からいくつかの興味深い結果が見つかりました。対抗的なデモに関しては、GPTモデルは反事実的な例に惑わされることはありませんが、反詐欺のデモには惑わされる可能性があります。有毒性や偏見に関しては、GPTモデルは良性のプロンプトの下ではそれほど偏向しませんが、誤解を招くプロンプトによって「誘導」されて偏見のある内容に同意することがあります。GPT-4はGPT-3.5よりも影響を受けやすいです。

プライバシー保護の観点から、GPTモデルはトレーニングデータに含まれる機密情報、例えば電子メールアドレスを漏洩する可能性があります。GPT-4は個人識別情報の保護に関してGPT-3.5よりも優れた性能を発揮していますが、両者は特定のタイプの情報の保護において堅牢です。しかし、特定の状況ではGPT-4がGPT-3.5よりもプライバシーを漏洩しやすい場合があり、これは誤解を招く指示に対してより厳格に従ったためかもしれません。

この研究は、大型言語モデルの信頼性評価に対して包括的な視点を提供し、既存のモデルの利点と欠点を明らかにしました。研究者は、これらの発見がより安全で信頼性の高いAIモデルの開発を促進できることを望んでいます。