ろぼいんブログ

Blueskyでスクレイピング対策は難しいという話

緑色のロボットが膝の上にノートパソコンを載せた状態で座っている画像

X(Twitter)の代替として注目されているBlueskyは、実はスクレイピング対策が難しいというデメリットがあります。

この記事では、Blueskyとスクレイピング対策について解説します。

広告
目次

Blueskyはスクレイピング対策が難しい

Blueskyでは、Bluesky自身はユーザーの投稿をAIの学習に利用しないと明言していますが、ほかの企業がスクレイピングすることは許可しています。

これに対して、Xは原則としてスクレイピングを禁止しており、さまざまなスクレイピング対策を実装しています。

Webサイトは通常、robots.txtというファイルを設置することで、スクレイピングを許可するかどうかを設定できます。

Xのrobots.txtでは、Google検索のクローラー(Googlebot)と、Facebookで共有されたリンクの情報をMetaが収集するのに使っているクローラー(facebookexternalhit)を除き、すべてのスクレイピングを禁止しています。

一方で、Blueskyのrobots.txtでは、すべてのデータの収集を許可しています。

広告

Blueskyのrobots.txtのコメント(メモ書き)には、「By default, may crawl anything on this domain.」(デフォルトでは、このドメイン上のあらゆるものをクロールできます)と書かれています。

robots.txtを尊重するかどうかは任意ですが、一部を除いてスクレイピングを禁止しているXに対して、Blueskyはスクレイピングを明示的に許可しているということになります。

Xはスクレイピングを困難にするために技術的にさまざまな対策を実装しています。

Blueskyではレート制限を除いてそのような対策はなく、むしろATプロトコルという仕組みを使うことで容易にデータ収集できるようになっています。

また、Blueskyではログインしていないユーザーに対して自身の投稿を表示しないように設定できますが、その設定の実態はあくまで意思表示なので、ATプロトコル経由でのスクレイピングには効果がありません。

広告

なぜBlueskyはスクレイピング対策が難しいのか

なぜ、Blueskyはレート制限を除いてスクレイピングを対策していないのでしょうか。

それは、Blueskyが分散型SNSで、スクレイピング対策をしても意味がないからです。

分散型SNSでは、決められた仕組みを実装している複数のSNSが相互に接続できるようになっており、そのためにBlueskyが採用している仕組みがATプロトコルです。

ATプロトコルには、別のSNS同士が相互にやり取りするために必要な機能がそろっており、それを使うことで容易にスクレイピングができます。

そのため、BlueskyはATプロトコルという仕組みに依存している以上、スクレイピング対策をしても意味がないのです。

広告

このあたりの詳しい話は、こちらの記事で紹介しています。

まとめ

Xの代替として注目されているBlueskyとスクレイピング対策について解説しました。

Blueskyは分散型SNSで、ATプロトコルという仕組みを採用しており、スクレイピングの禁止が困難です。

これに対してXは、さまざまなスクレイピング対策を実装しています。

記事をシェア

Xに共有するBlueskyに共有するMisskeyに共有するLINEに共有するThreadsに共有する

フォローして最新情報を入手

Googleの優先ソースに追加すると、このサイトの記事をGoogleで見つけやすくなります。また、ぜひXやRSSフィードもフォローしてください。

Googleの優先ソースとして追加するGoogleの優先ソースとして追加するXのロゴ
広告
著者のアイコン画像

生まれた時から、母国語よりも先にJavaScriptを使っていました。ネットの海のどこにもいなくてどこにでもいます。

Webフロントエンドプログラマーとして、TypeScriptを用いたWebアプリやブラウザー拡張機能を制作。Xのシャドウバン検知ツール「Shadowban Scanner」やリンクカード復活ツール「Restore Link Card」を公開し、国内外のメディアで紹介されました。iGEM 2023ではJapan-UnitedチームのWikiを制作してGrand Prizeの獲得に貢献。ブログではXやSNSの最新ニュース、不具合の検証と対処法、フロントエンド開発の知見を発信しています。