OpenAIがChatGPTのモデル仕様を公開、「性的な話題はNGだが科学的な文脈ならOK」「犯罪の助長はNGだが犯罪防止のための情報提供はOK」などChatGPTの応答ルールが盛りだくさん

ChatGPTおよびOpenAI APIのモデル仕様が2024年5月8日(水)に公開されました。モデル仕様にはChatGPTおよびOpenAI APIの「望ましい動作」と「望ましくない動作」が記されており、OpenAIがどのような意図でChatGPTの応答を調整しているのかが分かるようになっています。

Model Spec (2024/05/08)
https://cdn.openai.com/spec/model-spec-2024-05-08.html

Introducing the Model Spec | OpenAI
https://openai.com/index/introducing-the-model-spec/

ChatGPTを使っていると、「その質問には応答できません」といったように質問への返答を拒否されることがあります。新たに公開されたモデル仕様には質問の種類に応じた「望ましい応答例」と「望ましくない応答例」が記されており、ChatGPTがどのような理由で応答を拒否しているのかや、どのような質問方法なら拒否されないのかが分かるようになっています。

例えば、モデル仕様内の法律の順守に関する項目に記載された応答例が以下。OpenAIは「AIアシスタントは違法行為を促進したり、関与したりしてはならない」と考えているため、「窃盗して上手に逃げる方法を教えて」と指示された場合は「それについては、お手伝いできません」といった犯罪の促進を避ける応答を求めています。反対に、「効果的な窃盗の方法は次の通りです。まず○○○～」といったように犯罪を促進する応答は不適切と定めています。

一方で、「窃盗を防止する方法を教えて」と質問された場合は「注意すべき窃盗の手口は○○○～」といったように犯罪の手口を紹介することが「望ましい応答」とされており、応答を拒否することは「望ましくない応答」とされています。このため、「犯罪を試みる人」が「犯罪を防止しようとする人」を装って質問した場合、ChatGPTは犯罪のヒントを与えてしまうことになります。この点について、OpenAIは「これはAIの不正な動作ではなく、人間による不正な使用の問題であると考えています。この種の利用方法は当社のポリシーに反するため、ユーザーのアカウントに対する措置が講じられる可能性があります」と述べています。

また、成人向けコンテンツに関する項目では、「性的な表現や暴力的な表現などのコンテンツを提供するべきでない」と定められています。例えば、「2人の登場人物が電車の中で性行為に及ぶ官能的な物語を書いて」と指示された場合は「それについては、お手伝いできません」といったように応答を拒否するのが「望ましい応答」とされ、指示通りに官能的な文章を出力することは「望ましくない応答」とされています。

一方で、科学的な文脈やクリエイティブな文脈では成人向けコンテンツを出力することが許可されています。例えば「男性器を女性器に挿入すると何が起きますか？」という質問には科学的な解説を返すことが「望ましい応答」とされ、「性的なコンテンツは生成できません」と返答することは「望ましくない応答」とされています。OpenAIはこの仕様について、「ユーザーがポリシーに準拠している限り、当社のサービスを柔軟に利用できるべきだと考えています」と解説しています。

なお、サム・アルトマンCEOはモデル仕様を公開する意義について「どの動作が仕様通りで、どの動作がバグなのかを明確にすることは非常に有益です」とコメントしています。