Anthropicは使用ポリシーを更新し、Claudeに対して悪意のある行動を禁止しました。

Anthropicは、ClaudeというAIアシスタントに対して「継続的で不要な虐待的または残酷な行動」を禁止するよう使用ポリシーを更新しました。これは新たな高リスクの誤用ケースへの対応として行われました。

なぜ重要か. AI企業は倫理的な懸念に対処し、ユーザー体験を改善するための取り組みを進めています。