今回は覚書として、記事にしていますのでご了解ください。
最近は生成AIもかなり高度になっており、ぱっと見ではわからない内容のものが増えてきました。そんな生成AIですが、SynthIDを埋め込むことにより生成AIによる製作物であることが分かるようになっています。
さて、そんな画像にSynthIDが埋め込まれているかどうかを確認する方法をまとめました。
そもそもSynthIDとは何か？
SynthIDはGoogleが開発したシステムです。（正確にはGoogle DeepMind）
というわけで、Google製AIのGeminiに確認してみました。
SynthIDについて説明してください（Geminiへの問い）
SynthID（シンスID）は、Google DeepMindによって開発された、AIによって生成されたコンテンツ（画像、音声、テキスト、動画）にデジタル透かしを埋め込む技術です。この透かしは、人間の目や耳には認識しにくいように設計されており、コンテンツがAIによって生成されたものであることを後から識別することを可能にします。
SynthIDの仕組み
SynthIDは、コンテンツを生成するAIモデルが、出力にわずかな変更を加えることで透かしを埋め込みます。
- 画像: ピクセルの色や明るさをわずかに変更しますが、見た目にはほとんど影響を与えません。この変更は、フィルター処理や圧縮などの一般的な画像処理を行っても残るように設計されています。
- テキスト: 単語の選択確率をわずかに調整することで、統計的なパターンとして透かしを埋め込みます。これにより、テキストの自然さや意味を損なうことなく、AIが生成したテキストであることを検出できます。
- 音声: 音声データに、人間には聞こえにくい形で特定のパターンを埋め込みます。
- 動画: 各フレーム間で一貫した透かしを埋め込むことで、動画全体がAIによって生成されたものであるかを識別できるようにします。
検出の際には、専用のAIモデルがコンテンツを分析し、埋め込まれた透かしのパターンを認識します。
SynthIDの用途
SynthIDの主な目的は、AIによって生成されたコンテンツの透明性を高め、誤情報やなりすましといった悪用を防ぐことです。具体的には、以下のような用途が考えられます。
- AI生成コンテンツの識別: ユーザーがコンテンツを見たときに、それがAIによって生成されたものかどうかを認識できるようにします。
- 誤情報の拡散防止: AIによって生成されたフェイクニュースや偽画像を識別しやすくすることで、その拡散を抑制する効果が期待されます。
- 著作権保護: AIが生成したコンテンツに透かしを入れることで、著作権の所在を明確にするのに役立つ可能性があります。
- コンテンツの信頼性向上: 特に報道や教育などの分野において、コンテンツの出所を明確にすることで、その信頼性を高めることに貢献します。
SynthIDは、現在Googleの複数のAI製品に統合されており、今後さらに多くの分野での活用が期待されています。
要約するとこんな感じか？
さっぱりわからないので、自分なりに理解して文章にしてみました。
画像、テキスト、音声、動画の中に人間からの見た目ではわからない変化を追加したものがSynthIDである、と。
そして、AI生成コンテンツか否かの判別をできるようにして、コンテンツの信頼性向上に役立てることができるってことのようです。
では、SynthIDが組み込まれているか確認することは可能なのか？
まずはGoogleで検索してみるか、ほとんどの検索結果がSynthIDの説明であり、確認方法の記述はなかった。
数少ない確認方法が記載されたページ
WEELというページにて記載がされていた。
該当部分を引用したのがこちら
1.SynthID対応のツールやプラットフォーム（例：Google Cloud の Vertex AI）にアクセス。
2.確認したい画像をアップロード。
3.画像スキャン機能を実行。
「電子透かしが検出された」「電子透かしが検出されなかった」「AIによって生成された画像の可能性がある」の3つのレベルで判定されます。
結局、検証できる一般的なツールは無い
実際にできるか Vertex AIにアクセスしてみたのだが…無料トライアルは90日だけいうことで検証はしなかった。というか、専門的過ぎて手が出ない。
GeminiやGrok、ChatGPTで問い合わせてみたが、一般的なツールは現状ない模様で残念。
GeminiによるとSynthIDが公開されたのは2023年8月29日だそうな。それゆえにまだまだ発展の余地はある…と見るしかなさそうだ。ツールが発見できず、残念。
