【ChatGPT】「追加の安全性チェック」とは？この現象を調べてみた

ChatGPTを利用していると「回答前に、このリクエストについて追加の安全性チェックを行っています」と突然表示された。

規約違反なのか気になったため、OpenAI公式情報から仕組みや表示される理由、「より高速なモデルで再試行」の意味について調べた。

ChatGPTで突然「追加の安全性チェック」が表示された

ChatGPTを利用していると、回答が生成される前に見慣れないメッセージが表示された。

さらに「より高速なモデルで再試行」という選択肢もあり、複雑なリクエストでは処理能力が低下する場合があるとも書かれている。

突然こんな表示が出てくると、何か問題のある質問をしたのか気になるので調べてみた。

OpenAIが行っている追加の安全性チェック

OpenAI公式ヘルプによると、ChatGPTやCodex、OpenAI APIでは一部のリクエストに対して追加の自動安全チェックが行われる。

特にサイバーセキュリティや生物学の研究・応用に関係する内容が対象となり、安全に回答できるか確認してから回答が返される仕組みになっている。

チェック中は通常より回答に時間がかかる場合があり、安全に回答できると判断されればそのまま回答が続く。

規約違反ではない

最初に気になった部分だが、追加の安全性チェックが表示されただけで利用規約違反と判断されたわけではない。

そのため、この画面が表示されたからといってアカウントに何らかのペナルティが発生したと考える必要はない。

関係ない質問でもチェックされる

少し意外だったのが、現在送信した質問だけを見て追加チェックが行われるとは限らないことだ。

OpenAIによると、現在のリクエストや回答内容だけでなく、サイバーセキュリティや生物学に関するリクエストが多く、自動システムから潜在的なリスクがあると判断された場合にも追加チェックが行われることがある。

この条件に該当すると、対象分野とは直接関係のないリクエストでも一時的に追加チェックが入る場合がある。

つまり「この質問のどこが危険なのか」と考えても、現在の質問そのものが原因とは限らないということになる。

「より高速なモデルで再試行」とは

追加チェック中には「より高速なモデルで再試行」という選択肢が表示されることがある。

これを選択すると、同じリクエストをより高速なモデルで再試行できる。一方で画面にも表示されている通り、複雑なリクエストでは処理能力が低下する場合がある。

急いでいる場合は再試行する選択肢もあるが、特に急いでいなければ何も操作せず、そのまま安全性チェックが終わるのを待てばいい。

一時的に続く場合もある

最近の利用状況が理由で追加チェックが発生している場合、この状態が一時的に続くこともある。

最近の利用状況が安全性チェックの条件に該当しなくなれば通常の状態へ戻るが、新たに潜在的なリスクがあると判断されるリクエストが続いた場合は期間が延びることもある。

これは単なるエラーではなくOpenAIが正式に導入している安全対策である。

少なくとも表示されただけで規約違反になったわけではないため、基本的にはそのまま回答を待てばよさそうだ。