ChatGPTの文章に透かし｜見分ける道具に頼らない

「この文章、AIで書いたでしょう」と取引先に言われたら困る。そう考えてChatGPTの使い方を控えている会社もあるはずです。OpenAIは10月5日、ChatGPTが書いた文章に目に見えない透かしを入れると発表しました。ただし対象はEUの利用者で、日本は今回入りません。従業員20人の会社にとって大事なのは、透かしが入るかどうかより、透かしでは何も決まらないという点です。

今日やること 1つだけです。お客様や取引先に出す文章について、「AIを使ったか」ではなく「誰が確かめてから出すか」を決める。見積書の添え状、案内のメール、ホームページの文章など、社外に出るものから決めます。

何が起きたか

OpenAIは10月5日、EUのAI法に対応するため、文章に透かしを入れる方針を発表しました（OpenAI：Our approach to EU text provenance rules）。発表の要点は次のとおりです。

• 数週間かけて、EU域内のChatGPTとCodexの文章に、見えない透かしを入れる。全プランが対象で、EU以外では既定にしない
• 開発者向けのAPIでは、世界中の利用者が透かしを入れるかどうかを選べる。既定はオフ
• 透かしを見つける検出ツールは、審査を通った研究者や専門機関にだけ公開する。一般には公開しない

透かしは、文章の言葉の選び方に統計的な目印を混ぜる仕組みで、読んでも気づかないと説明されています。

中小企業にとって何が変わるか

よくある誤解：「透かしで、AIが書いたかどうかがばれる」

いちばん読み違えやすいのはここです。

OpenAI自身が、透かしで分かることには限りがあると書いています。同じ発表の評価では、誤って「透かしあり」と判定する率を1%に抑えた条件で、200トークン程度の文章は約80%、400トークン程度では約95%を見つけられました。数学のように言葉の選び方に幅が少ない文章では、見つかる率がかなり下がります。手直しにも弱く、400トークンの文章で10%の言葉を言い換えると約92%から約66%に、25%を言い換えると約17%まで下がりました（OpenAI：Our approach to EU text provenance rules）。

さらに、透かしで分からないことも明記されています。

• 人がどれだけ手を入れたか
• 誰の文章か、誰が責任を負うか
• 内容が正しいかどうか
• 透かしが見つからないことは、人が書いた証明にならない

短いメールや、AIの下書きを自分の言葉に直した文章は、そもそも見つかりにくいということです。

見分ける道具に頼る会社は、どちらの側でも困る

この話は、文章を出す側と受け取る側の両方に関係します。

出す側では、「透かしが入らない日本なら、AIで書いてもばれない」と考えるのは筋違いです。困るのは、ばれることではなく、確かめないまま出して間違っていることです。透かしがあっても無くても、その責任は出した会社にあります。

受け取る側では、応募書類や取引先からの提案書を「AIで書いたかどうか」で判断したくなる場面があります。しかし、見つける側の道具がこれだけ揺れるのであれば、AIを使ったかどうかを見抜いて判断の材料にするのは無理があります。見るべきは、書いてある中身が正しいか、こちらの質問に答えているかです。

うちは当てはまるのか

多くの会社は1行目です。透かしの件で慌てて何かを変える必要はありません。気にしてほしいのは4行目で、こちらは国や透かしの有無に関係なく起きる問題です。

いま何をすべきか

社外に出す文章は「誰が確かめるか」を決める

AIを使ったかどうかを社内で申告させるより、出す前に誰が読むかを決めるほうが効きます。決めるのは次の2つだけです。

1. どの文章を確かめるか。まずは、お客様や取引先に出るものだけで十分です
2. 誰が確かめるか。書いた本人とは別の人が1回読む、で足ります

「AIを導入した」という言葉に意味が無いのと同じで、「AIで書いた」という事実にも、それ自体の良し悪しはありません。意味を持つのは、出した文章が正しかったかどうかです。

受け取った文章を「AI判定」で選ばない

採用や取引先選びで、AIで書いたかどうかを判断の材料にしている場合は、やめておきます。透かしを作った会社自身が、見つからないことは人が書いた証明にならないと書いています。判断は、中身と、面談や打ち合わせで直接聞いた答えで行います。

関連するもっと詳しい話

• 社外に出す文章のルールをどこまで決めるかは、生成AIの社内ルールは3つで足りる｜急ぐ義務はまだないで書いた3つから始めると、決めることが増えすぎません
• AIの書いた中身をどう確かめるかは、AIの回答が信用できないときの使い方｜聞かずに渡すで、確かめる手間を減らす頼み方として整理しています

AIで作った文章の確かめ方や、社外に出すときの線引きに迷ったら、ご相談ください。相談と見積りに費用はいただきません。