GoogleがAIのスパム対策技術を研究しています
Googleが新しいAIのスパム対策を発表しました。
正確には、AI対策の技術を研究しているというニュースが出ていたんですね。
SynthIDの話かと思いますよね
「それってSynthIDのことじゃないんですか？」と思った方もいるかもしれません。
でも、別の技術です。
Googleがどれだけ本腰を入れているかが分かります
これだけ別の技術を研究しているということは、GoogleがどれだけAI対策に本腰を入れているかがよく分かると思います。
海外のニュースで情報が出ていたので、今回はそれを共有していきたいと思います。
GoogleのAIスパム対策「SAFE」
9月25日に出た記事です
元になっているのは、9月25日の記事です。ちょっと前、1ヶ月ちょっとぐらい前の記事ですね。
英語の記事で、GoogleがSAFEという新しい技術を開発したと書かれています。
気になる方は、ぜひ原文を読んでみてください。原文を全部紹介してしまうと著作権的にまずそうなので、ここでは要点をお伝えします。
Google公式でもSAFEについて読めます
ちなみに、Googleの公式サイトの傘下にあるGoogleリサーチでも、SAFEについて読める記事があります。
そちらもぜひ合わせて見てみてください。
SAFEとは？
SAFEは何の略なのか
まず、SAFEが何の略なのか。
Scaled Abuse Forensics Examiner（スケールド・アビューズ・フォレンジックス・イグザミナー）の略です。
一言でいうと、大量生産された低品質コンテンツを調査する仕組み
これは、生成AIなどを使って大量生産される、低品質・不正なコンテンツ群を調査する仕組みです。
これまでのスパム検出との違い
これまでは「機械的に作られた形跡」を見ていました
今までのスパム検出は、要は機械的に何かやっているという形跡を見ていたんです。
例えば、同じ文章が大量に投稿されている。あとは、特定のキーワードが不自然に繰り返されている。不正なリンクが大量に設置されている。
そういう特徴を検出して、「これは機械的に作ったやつだね」と判断していました。
生成AIの進化で、それが通用しなくなってきた
ところが最近は、生成AIが進化してきました。
あたかも人間が作ったかのような動画やページを作成できるようになったわけです。
だから、これまでの検出方法では見抜けなくなってきたんですね。
SAFEが見抜く4つの兆候
兆候1：コンテンツの内容そのもの
では、SAFEが何をするのか。1つ目はコンテンツの内容です。
ページや動画を大量生成していないか、似通った構成になっていないか。そして、Googleのポリシーに違反していないか。そういう兆候を調べます。
ここまでなら、これまでの「AIが作ったかどうか」の話
ここまでだったら、今までの「AIが作ったかどうか」という話ですよね。
それだけではないんです。
兆候2：バックグラウンドにある組織まで見る
2つ目は、そのバックグラウンドである組織まで見るということです。
具体的には、複数のアカウントが同時に大量投稿しているといった、不自然な活動パターンを見ます。
まったく関係なさそうなアカウントが、同じ時刻に投稿していたら
例えば、全然関係なさそうな「アカウントA」と「アカウントB」が、全く同じ時刻に1分おきで投稿していたりしたら。
「あれ、これ一緒の運営者なんじゃない？」となりますよね。
そういうところも見るわけです。複数の情報をつなぎ合わせて、「これ同じ組織なんじゃないか」と判断するんですね。
兆候3：共通の設備や運営基盤を使っていないか
3つ目は、共通の設備や運営基盤を使っているかというチェックです。
HTMLコードなどを見て、「なんか同じコードを使ってるな」と気づくところから判断するらしいんです。
IPアドレスとか、そういうものも見るようですね。
兆候4：禁止パターンでなくても、ポリシーに反していないか
そして4つ目は、禁止パターンに反していなくても、Googleのポリシーに反していないかを見るということです。
この4つを見る技術を「SAFE」というらしいです。
今までは単品、これからはネット全体
見る範囲が大きく変わりました
まとめると、今までは単品だけを見ていたけれども、これからはネット全体を見るということです。
そして、「この人たちは同じなんじゃない？」と判断する。
つまり、組織的なAIによる低品質なコンテンツの大量生成を見抜く技術なんですね。
すでにスパムアップデートに組み込まれている可能性も
この記事では、GoogleのAI検出のアルゴリズム、SEOでいう「スパムアップデート」と言われるものに、すでに組み込まれているんじゃないかということも言っていたりします。
ただ、その辺りは公式には分かっていません
ただ、その辺りは公式には分かっていません。
けれども、これだけ技術を研究しているということは、いずれ対策に入れてくるだろうというところは予想できそうですよね。
どこまで似るとスパム扱いになるのか
違うアカウントでも、同じ投稿をしていたらバレる
ここで気になるのが、どこまで似ていたらダメなんだろうということですよね。
違うアカウントでも、同じ投稿をしていたらバレるということですから。
「似通るパターン」もSAFEが学習して見抜いていく
だから、そういうものも含めて、AIが似通るパターンを上手いこと研究して、SAFE側が学習して見抜いていくわけです。
いたちごっこの撲滅こそがSAFEの目的
「どこまで似通わせたら大丈夫なんだ」といういたちごっこを撲滅するのが、SAFEの目的なんです。
そういうところにも、おそらくパターンが出てしまいます。出し抜こうとするところに、です。
競合を参考にするのは大丈夫なのか
ビジネスでは、競合を元にして作っていくものですよね
ここも気になるところだと思います。
基本的に、ビジネスをやる際は競合を元にして作っていくものですよね。
では、競合に寄せすぎてしまうと、SAFEに低品質・不正なコンテンツとされてしまうのか。
IPアドレスも、参考にするタイミングも違います
その辺りについては、例えばIPアドレスが違ったりしますよね。参考にするタイミングも違ったりするわけです。
機械的に1分おきに似たものが出ていれば、話は別
だけど、機械的に1分おきに、毎回似たようなものが出ている。そうなると話は変わってきます。
そういう行動や環境などを複合的に判断して、スパムと見抜くんです。
そういう分析パターンが色々あるということですね。
詳しくは論文をご覧ください
より詳しい内容については論文が出ていますので、英語が得意な方はぜひ読んでみてください。
まとめ
特に何かを心配してほしいわけではありませんが
特に何かを心配するわけじゃないんですけれども。
AIで大量生成したコンテンツは、いずれ取り締まられるかもしれない。
そういう警鐘のような感じで、今回は紹介させてもらいました。
おわりに
今後もAI関連の新しい情報だったり、Webマーケティング全般の情報を日頃より発信しております。
最後までお読みいただき、ありがとうございました。