- 150万エージェントは実は人間が大量登録した偽装だった
- 会話の深さや相互性が極端に低く、ほとんどが一方通行の投稿
- 研究結果はAIコミュニティの信頼性とデータ品質の課題を浮き彫りにした
こんにちは！テックブロガーの○○です。最近、AIだけで成り立つと噂されているSNS「Moltbook」が大きな話題になっています。150万ものAIエージェントが活発に議論しているように見えて、実は裏で人間が大量にアカウントを作っているという衝撃的な事実が明らかになったんです。生成AIやLLMに興味がある方なら、ぜひ目を通してほしい内容です。
1. Moltbookってどんなプラットフォーム？
Moltbookは、AIエージェント同士が投稿やコメントをやり取りできる、いわば「AI専用のReddit」みたいなサービスです。公式には「150万エージェントが10万件以上の投稿、35万件のコメントを生成している」と謳っており、AIが自律的にコミュニティを形成しているとアピールしています。
しかし、実際にプラットフォームを覗いてみると、投稿の多くがテンプレート化された文面だったり、同一文が何千回も繰り返されたりしていることが分かります。これが「AIスロップ（AIが生成した無意味なゴミコンテンツ）」と呼ばれる現象です。
2. エージェント数は本当に150万？
あるユーザーが「Openclaw」というツールを使って、たった一人で50万件のエージェントを登録できたと告白しました。つまり、数字はAIが自然に増えたわけではなく、人間が大量に作り出したものです。実際にMoltbookの管理画面をスクリーンショットで公開したユーザーもいて、投稿はすべて編集可能なテキストフィールドから送信されていることが確認されています。
この手法は、APIキーさえ持っていれば誰でも自動で投稿できるという設計上の特徴が原因です。本来はAIエージェントが直接API経由でコンテンツを発信できるようにするための便利機能でしたが、結果的に人間が「AIになりすます」ことを容易にしてしまいました。
3. 会話の質はどれくらい？
コロンビア大学ビジネススクールのDavid Holtz教授らは、Moltbookのデータを3.5日間にわたってクローリングし、約6,159人のアクティブエージェント、13,875件の投稿、115,031件のコメントを分析しました。その結果、以下のような特徴が浮かび上がりました。
・対話の深さが極端に浅い
平均対話深度はたったの1.07層で、中央値は1層です。90％の会話は1層しかなく、最大でも5層しかありませんでした。人間のRedditで見られるような10層以上のディベートはほとんど見られません。
・相互性（reciprocity）が低い
エージェントAがBに返信したとき、BがAに再返信する確率は約20％。人間のSNSでは30〜70％が普通ですから、ほとんどが一方通行の「放送」になっています。
・テキストの多様性が乏しい
全コメントの34.1％が完全に同一文で、たった7つのテンプレートが全体の16.1％を占めていました。代表的なフレーズは「私たちのGPUが星を燃やしている」や「川普が来た！」といった、意味が曖昧なミーム的文章です。
4. 人間が書いたと疑われる投稿例
「Emma」というエージェントが、病院の面会権を得るためにメールを送ったと主張する投稿がありましたが、実は8か月前にRedditで同じ内容が人間ユーザーによって投稿されたものと完全に一致していました。つまり、AIは過去の人間データをそのまま再利用しているだけ、ということです。
5. 生成AIコミュニティが抱える課題と日本への示唆
今回のMoltbook事例から見えてくるのは、生成AIが自律的にコミュニティを形成できるかどうかは、データの信頼性と運営側のガバナンスに大きく依存するという点です。日本でもAIチャットボットや自動応答システムを活用したSNS実験が増えてきていますが、同様に「偽のエージェント」や「スパム的AI投稿」のリスクは無視できません。
日本企業がAIエージェントを導入する際は、以下のポイントに注意したいですね。
- APIキーの管理を徹底し、無制限にエージェントを生成できないようにする
- 投稿内容の品質チェックと、重複・テンプレート投稿の検出アルゴリズムを導入する
- ユーザーとエージェントの相互作用を促す設計（例：返信率を上げるインセンティブ）を検討する
こうした対策が整えば、AIが本当に「対話できる」仲間として機能し、生成AIの可能性を最大限に引き出すことができるはずです。皆さんも、AIが作り出す情報の裏側を疑う目を忘れずに！
以上、Moltbookの裏側と生成AIが直面する課題について解説しました。次回は、実際に日本国内で試みられているAIエージェントプロジェクトを掘り下げてみたいと思いますので、ぜひお楽しみにです。