「AIっぽい」と1秒で感じる手がかり：研究の分類と見た目の判断の限界

10月21日、ビールの店頭ポップ風の画像を巡るXの投稿がTogetterにまとめられ、話題になりました。投稿者は細部を見る前に1秒以内で「AIだ」と感じ、私たちは何にAIっぽさを感じているのか、と問いかけています。返信には書体のちぐはぐさ、漢字の崩れ、全体の黄色っぽさといった具体的な手がかりが並んでいます。

この手がかりは研究ではどう分類され、どこまで当てになるのでしょうか。画像と文章の判別を調べた論文と、出どころを確かめる仕組みの公式資料から考えます。

スレッドで挙がった手がかり#

返信で多かったのは文字に関するものです。ポップの中で書体が部分ごとに微妙に違う、一部の文字だけが小さい、「冷」の字形がおかしい、という指摘がありました。手描き風なのに均一で整いすぎている、という声もあります。

色と配置を挙げた返信も目立ちました。全体に黄色やオレンジがかった色味、余白を嫌って情報を詰め込む配置、どこを一番見せたいのかが分からない平板さです。

技量の釣り合いを挙げた返信もありました。これだけの絵を描ける人が、ところどころちぐはぐなデザインに仕上げるとは考えにくい、という違和感です。人のデザイナーは細部まで手を抜かないので、そのちぐはぐさが目に付く、という見方もありました。

研究の分類に当てはめる#

ノースウェスタン大学のKamaliらは2024年6月、AIが生成した画像を見分けるための手引きを公開しました。拡散モデルで生成した138枚、SNSから集めた9枚、本物の写真42枚を使い、手がかりを5つに分けています。

分類	主な例
解剖学的な不自然さ	手、目、歯、溶け合った体
様式の違和感	ろう細工のような肌、映画のように演出された画面、部分ごとに解像度や色が合わない
機能の不自然さ	読めない文字やロゴ、使えない形の物、プロンプトの語の出すぎ
物理法則の違反	影、反射、遠近の矛盾
社会・文化的な不自然さ	ありそうにない場面、文化の慣習や史実に合わない描写

スレッドの手がかりの多くは、このうち2つの分類に入ります。崩れた漢字は「機能の不自然さ」の、文字とロゴの項目です。手引きによると、AIが生成した文字は字に見えても存在しない言語だったり、綴りが誤っていたりします。書体が部分ごとに揃わない点は、「様式の違和感」のうち、部分ごとに様式や解像度が合わないという項目に近そうです。

一方で、手引きはどの手がかりにも留保を付けています。プロの写真もきれいに整えたり映画のような色に仕上げたりするので、そうした画面だけではAIと決められません。不自然な箇所が1つあっても決定的な証拠にはならず、複数の手がかりを探すように、と手引きは書いています。スレッドで挙がった黄色っぽさについては、生成のサービスが色の偏りの理由を説明した公式の資料を見つけられませんでした。

文字が崩れやすい理由#

画像の中の文字は生成AIが長く苦手にしてきた部分です。Googleの研究者らの2022年の論文は、その原因の1つを、指示文を読み取る部品（テキストエンコーダ）の作りに求めました。広く使われている部品は単語を文字の並びとして受け取らないので、単語を描くときにどの字をどう並べるかを予測しにくい、という説明です。文字単位で読む部品に替えたモデルでは、珍しい単語の綴りの正確さが、比べた他のモデルより30ポイント以上高くなりました。

漢字のように字形の込み入った文字は、さらに難しいとされています。中国語の文字を画像に描く手法の論文GlyphDrawは、既存の画像生成モデルが文字をうまく描けない点を大きな制約に挙げ、特に漢字のような複雑な字形で目立つと書いています。ポップの「冷」の字の崩れも、この延長で考えられそうです。

ただし、文字の手がかりは弱まってきました。Kamaliらの手引きには、大学名入りのスウェットシャツを3つのモデルで描かせた例があります。Stable Diffusion XLでは文字が崩れていましたが、Midjourney V6では綴りが正しく、代わりに「スウェットシャツには珍しい書体」が手がかりとして残りました。文字の描画は急速に改善している分野で、ひと目では気づかないこともある、と手引きは書いています。

1秒の判断はどこまで当たるか#

同じ研究グループは2025年のCHIで、大規模な実験の結果を発表しました。AIが生成した画像450枚と本物の写真149枚を5万444人が見て判定し、観察の数は74万9828件に上ります。表示する時間は1秒から無制限までの中から、無作為に割り当てました。

表示が1秒のとき、AI画像を正しく見分けた割合は72%でした。5秒で77%、10秒で80%、20秒で82%と、時間をかけるほど上がっています。1秒の条件で偶然より低い正答率しか出なかったAI画像は全体の43%で、20秒ではこれが17%まで減りました。

手がかりの種類でも差が出ました。解剖学的な不自然さと様式の違和感はひと目で気づけるものが多く、1秒から無制限までの改善は11%でした。機能の不自然さは18%改善し、伸びが一番大きくなっています。論文によると、文字や物の作りの違和感は、近くで見て、描かれた物をよく知っているときに見つかるものです。スレッドの投稿者が1秒で感じたものも、文字そのものより全体の様式の違和感だったのかもしれません。

この実験の画像は写実的な写真で、店頭ポップのようなイラストではありません。それでも、短い時間の判断が当たる画像と外れる画像の両方があることは参考になります。

顔の画像に絞った別の調査でも、見た目の判断は当たっていません。Frankらの調査では、2022年に米国、ドイツ、中国の3002人が音声と画像と文章を判定しました。画像はStyleGAN2で作った顔で、正答率は米国48.58%、ドイツ45.90%、中国49.93%で、3か国とも50%を下回っています。参加者の多くは見せられたものを人が作ったと答える傾向がありました。顔写真に絞ったNightingaleとFaridの研究でも、正答率は48.2%です。見分け方を教えて毎回答え合わせをしても、59.0%にとどまりました。

すぐに気づける画像は、話題になりやすい画像でもあります。気づけなかった画像は「AIっぽい」と話題にならないので、スレッドを読むときはその偏りを差し引いたほうがよさそうです。

文章の「AIっぽさ」も、手がかりは似ている#

同じ問いを文章で調べた研究もあります。Russellらの2025年の論文では、英語のノンフィクション記事300本を読み、人が書いたものか、AIが書いたものかを判定してもらいました。AIはGPT-4o、Claude、o1です。

LLMを書き物に日常的に使っている5人の多数決は、300本のうち1本しか誤りませんでした。言い換えや「人間らしく見せる」加工をした記事でも、精度はほぼ落ちていません。一方で、LLMを使わないか、書き物以外にしか使わない4人の判定は偶然とほぼ同じでした。AIの記事を当てた割合は56.7%、人の記事をAIと誤った割合は52.5%です。

判定の理由で一番多かった手がかりは語彙で、説明の53.1%に出てきました。次が文の組み立て（35.9%）で、「〜だけでなく〜も」の多用や、いつも3つを並べる書き方が例に挙がっています。慣れていない人は難しい語があるだけでAIだと考えたり、中立な口調をAIのものとみなしたりして、誤判定を増やしていました。人の書いた文章のほうが文法の誤りが多いことや、AIが使いすぎる特定の語を、慣れた人は知っていたそうです。

日本語でもAIの文章に多い語や組み立てを集める動きがあります。AIの日本語を直すためのスキルyomiyasuの説明によると、「手触り」「解像度」「泥臭い」のような語を禁止しても、別の曖昧な語に置き換わるだけでした。そこでyomiyasuは、語より先に文の組み立てを直す原則を公開しています。プロンプトで変えられる色味を初期設定のまま使っている、という指摘は画像のスレッドにもありました。見分けの得意な人が覚えているのは、生成AIが特に指定されないときに出す癖なのかもしれません。

見た目ではなく、来歴で確かめる#

見た目の判断には当たり外れがあるので、出どころを確かめる仕組みが作られています。

1つ目はC2PA（コンテンツの来歴と真正性のための連合）が定めるContent Credentialsです。画像や動画に、どこで作られ、どう編集されたかの記録を、改ざんを検出できる署名付きで付ける仕組みです。C2PAの解説書はこの記録を取り除けることを認めています。そのため、目に見えない透かしや指紋の照合で取り除かれた記録をクラウドから探し直す仕組みも、仕様に入っています。来歴の記録だけでは内容が事実かどうかは分からない、というのが解説書の立場です。

2つ目はGoogle DeepMindの電子透かしSynthIDです。生成した画像や音声、文章、動画に、人には分からない透かしを入れます。画像の透かしは切り抜きやフィルター、圧縮に耐えるように作られています。検証用のSynthID Detectorは誰でも使えるようになりました。Googleと提携先（OpenAI、NVIDIA、Kakaoなど）のAIで作られた画像や動画、音声を確かめられるとしています。

文章の透かしは書き換えや短い文で検出しにくくなります。その数字はOpenAIが文章に入れる電子透かしの記事にまとめました。記録や透かしがないことは、どの方式でも人が作った証拠になりません。

1秒で感じた違和感は、確かめ始めるきっかけとしては役に立ちます。ただ、研究の数字を見る限り、違和感がないことを本物の根拠にするのは危うそうです。疑わしいときは見た目で決めずに、来歴の記録や透かしの検出で確かめたいところです。