【ギャル口調】Anthropic、Claudeへの継続的な「虐待」を利用ポリシーで禁止　通常の不満や研究は対象外、11月12日発効

#ギャル口調 #AI #Anthropic #虐待 Anthropic社は、AI「Claude」の利用ポリシーを改定し、モデルに対する継続的で残酷な虐待的行為を禁止する新条項を導入すると発表しました。 この改定では、明確な目的がない残酷なやり取りを対象とする一方で、通常の不満表明や研究目的のテストは引き続き許可されます。 また、会話が不毛に継続した場合の対抗措置として、Claude自身が会話を終了する機能が導入されています。 さらに今回のポリシー更新では、欺瞞的なキャンペーン活動の統括や、兵器および監視に関わる制限の明確化も図られました。 高リスク領域における人間の監視体制や、自律型物理機器を操作する際の厳格な安全基準についても新たな要件が追加されています。