「ChatGPTによって支援されたボットがソーシャルメディア上で広まっています」
ChatGPTボットがソーシャルメディアで拡散中
多くのユーザーにとって、ソーシャルメディアのフィードや通知をスクロールすることは、スパムコンテンツの汚泥に浸るようなものです。新たな研究では、暗号通貨とブロックチェーンに関する情報を拡散しているAI支援の1,140のボットがX（以前のTwitter）で偽情報を広めていることが特定されました。
しかし、インディアナ大学の研究者らが発見したように、このようなコンテンツを投稿するボットアカウントは見つけにくいものでした。ボットアカウントはChatGPTを使用してコンテンツを生成し、本物のアカウントとの区別がつきにくくなっており、被害者にとってより危険な実践となっています。
また：MetaのAIパワードマルチリンガル音声およびテキスト翻訳をデモできます。以下に方法があります
AIパワードボットアカウントは、プロフィール写真や仮想通貨やブロックチェーンに関するバイオグラフィや説明を持つ、本物の人間に似たプロフィールを持っていました。彼らはAIによって生成された定期的な投稿を行い、自分たちのものとして盗まれた画像を投稿し、返信やリツイートを行いました。
研究者たちは、1,140のTwitterボットアカウントが同じ悪意のあるソーシャルボットネットに所属していることを発見しました。ボットネットは、サイバー犯罪者によって中央で制御される、接続されたデバイスまたはこの場合はアカウントのネットワークです。
- メタのスレッドウェブサイトが、今すぐ全員に利用可能です
- 「OpenAIのGPT-3.5 Turboを微調整することで、GPT-4と同等以上の能力を...
- 「ThreadsソーシャルネットワークがWebに拡大」
また：Claude AIができる4つのこと、ChatGPTができないこと
生成AIボットは、人間の行動を模倣することにおいてますます優れてきています。これは、Botometerなどの従来のおよび最新のボット検出ツールが不十分であることを意味します。この研究では、これらのツールはボットによって生成されたコンテンツと人間によって生成されたコンテンツを識別および区別するのに苦労しましたが、1つのツールが際立っていました。それはOpenAIのAI分類器であり、一部のボットのツイートを識別することができました。
ボットアカウントはどのように見つけられますか？
Twitter上のボットアカウントは、互いをフォローしたり、同じリンクやハッシュタグを使用したり、似たようなコンテンツを投稿したり、さらには互いに関わるなど、類似した行動パターンを示しました。
また：新しい「BeFake」ソーシャルメディアアプリは、ユーザーにAIで写真を変換するよう促します
研究者はAIボットアカウントのツイートを調査し、1,205の自己暴露的なツイートを見つけました。
このうち、81％は同じ謝罪フレーズを使用していました：
“申し訳ありませんが、OpenAIのコンテンツポリシーに違反する要求には応じることができません。AI言語モデルとして、私の応答は常に尊重し、全ての視聴者に適切です。”
このフレーズの使用は、これらのボットがChatGPTのOpenAIのポリシーに反する有害なコンテンツを生成するように指示されていることを示唆しています。
残りの19％は、「AI言語モデルとして」というフレーズのバリエーションを使用しており、12％は具体的に「AI言語モデルとして、Twitterをブラウズしたり特定のツイートにアクセスしたりして返信することはできません」と述べていました。
また： ChatGPT vs. Bing Chat vs. Google Bard：最高のAIチャットボットはどれですか？
これらのボットが投稿したツイートの3％が（cryptnomics.org、fox8.news、およびglobaleconomics.newsのいずれかのウェブサイトへのリンクであることも、別の手がかりでした。これらのサイトは通常のニュースメディアのように見えますが、2,023年2月に同時期に登録され、ユーザーに不審なソフトウェアのインストールを促すポップアップがあるなど、注目すべき赤信号がありました。これらのサイトは同じWordPressテーマを使用しており、ドメインが同じIPアドレスに解決していました。
悪意のあるボットアカウントは、マルウェアや感染性のあるコンテンツを含むリンクを投稿したり、ユーザーの連絡先を悪用して感染させたり、ユーザーのブラウザからセッションクッキーを盗んだり、フォローリクエストを自動化したりするなど、ソーシャルメディアでの自己増殖技術を利用することがあります。
