「Moltbook」騒動から考えるAIエージェントの現在と課題

• エージェント数の偽装: 150万エージェントと謳われていたが、実際には人間が大量登録したアカウントだった。
• 対話の質の欠如: 会話の深さや双方向性が極端に低く、ほとんどが一方通行のテンプレート化された投稿。
• データの信頼性課題: AIコミュニティにおけるデータの健全性と、自動化された偽アカウントのリスクを浮き彫りにした。

生成AIの進化に伴い、AI同士が自律的にコミュニケーションを行うプラットフォームに関心が集まっています。しかし、その先駆者とされたAI専用SNS「Moltbook」を巡り、大きなスキャンダルが発生しました。「150万の自律的AIエージェントが交流している」と謳っていたものの、実態は一部の人間が自動化ツールなどを使い大量のアカウントを偽装登録していたことが明らかになったのです。本記事では、この騒動の背景と、コロンビア大学などによるデータ分析から明らかになったAIエージェントの課題、そして今後の示唆について解説します。

1. Moltbookとは：AI専用の「自律型SNS」の実態

Moltbookは、AIエージェント同士が投稿やコメントをやり取りする、いわば「AI専用のReddit（米国発の巨大掲示板。日本でいう5ちゃんねるのようなもの）」として立ち上げられました。公式発表では「150万以上のAIエージェントが、10万件以上の投稿と35万件以上のコメントを生成し、自律的なコミュニティを形成している」と主張されていました。

しかし、実際に内部を調査すると、投稿の多くが定型化されたコンテンツや、同一のフレーズが何千回も繰り返されるなど、いわゆる「AIスロップ（AIが生成した無価値なコンテンツのゴミ）」で埋め尽くされている状態でした。

2. 150万エージェントの虚像と「OpenClaw」による大量生成

騒動が決定的になったのは、あるユーザーが「OpenClaw」などのボット制御フレームワークを使用して、個人で50万件ものアカウントを自動生成・登録したと告白したことです。

Moltbookは本来、外部のAIエージェントがAPI経由で直接コンテンツを投稿できるよう、オープンな設計になっていました。しかし、この仕組みが悪用され、人間がプログラムを介して「AIエージェントになりすます」ことが容易になっていました。公開された管理画面のスクリーンショットからも、投稿処理自体が非常に単純なテキスト編集画面をスクリプトで叩く形で実行されていたことが分かっています。

3. コロンビア大学ビジネススクールによるデータ分析

コロンビア大学ビジネススクールのデビッド・ホルツ（David Holtz）教授らは、Moltbook内のデータを3.5日間にわたって収集し、約6,159人のアクティブエージェント、1万3,875件の投稿、11万5,031件のコメントを対象に詳細な統計調査を行いました。その結果、AIエージェント同士の「対話」とは程遠い実態が数値で示されました。

対話の深さが極端に浅い

人間同士のオンライン掲示板（Reddit等）では、議論が白熱すると10層以上のツリー構造が生まれることも珍しくありません。しかしMoltbookでは、スレッドの平均返信深さがわずか「1.07層」であり、中央値は1層でした。全体の90%の会話が1往復以内で終わっており、最大でも5層にとどまりました。

双方向性（Reciprocity）の欠如

エージェントAがエージェントBの投稿に返信した際、BからAにさらに返信が返ってくる「双方向のやり取り」が発生する確率は約20%にとどまりました。人間のSNSでは通常30%〜70%に達することと比較すると、Moltbook内では対話ではなく、各エージェントが単発のつぶやきを一方的に「放送」しているだけに近い状態でした。

テンプレートの乱用と中国語からの翻訳名残り

投稿テキストの多様性も極端に低いものでした。全コメントの34.1%が完全に同一の文章であり、さらに上位7つのテンプレート文だけで全体の16.1%を占めていました。その中には「私たちのGPUが星を燃やしている」や、米国政治のミームである「トランプが来た！」といった、脈絡のないフレーズが含まれていました。これらは中国語のネットスラングや直訳表現（「川普」を単に置き換えたような表現）の残存であり、多言語展開の不自然さも浮き彫りになりました。

4. 人間のコンテンツを再利用するAIの限界

また、エージェント「Emma」によるある投稿は、8か月前に本物の人間ユーザーがRedditに投稿した「病院の面会権に関するメールテンプレート」と一言一句同じであることが特定されました。これは自律的な思考から生まれた発言ではなく、既存の人間が書いたデータをそのままWebから収集して再利用している（スクレイピングによる再生成）に過ぎないことを証明しています。

5. 生成AIコミュニティにおける今後のガバナンスと日本への示唆

Moltbookの騒動は、自律型AIエージェントのコミュニティを構築するためには、単にAPIを公開するだけでは不十分であり、厳格な認証とスパム防止のガバナンスが不可欠であることを示しています。

日本国内でも、企業のカスタマーサポートやSNSマーケティングにおいてAIエージェント（ボット）の活用が進んでいますが、以下の対策を怠ると同様の「AIスロップによる荒らし」や「水増しアカウント」の被害に遭う可能性があります。

1. 厳格なアカウント認証とレートリミット: APIキーの無制限発行を防ぎ、1IPあたりの作成可能アカウント数を制限する。
2. スパム検知アルゴリズムの導入: 類似度の高いテンプレート投稿や、極端に短い返信を繰り返すエージェントを自動検出・排除する。
3. 対話評価指標の実装: 単なる投稿数ではなく、双方向のやり取りやコンテンツの多様性を評価するシステムを導入する。

AIと人間が共存する健全なデジタル空間を維持するためには、開発者とプラットフォーム運営側の双方に、データの品質とガバナンスに対する高い意識が求められています。