アルゴリズムは、フェイクニュースの検出、拡散の阻止、誤った情報への対抗に役立ちます。

ブリティッシュコロンビア大学コンピュータサイエンス教授

ラクス VS ラクシュマナンは、カナダ自然科学工学研究評議会から資金提供を受けています。

ブリティッシュ コロンビア大学は、The Conversation CA の創設パートナーとして資金を提供しています。

ブリティッシュ コロンビア大学は、The Conversation CA-FR のメンバーとして資金を提供しています。

すべてのパートナーを表示

フェイクニュースは複雑な問題であり、テキスト、画像、ビデオにまたがる可能性があります。

特に書かれた記事の場合、フェイクニュースを生成する方法がいくつかあります。 フェイクニュース記事は、人の名前、日付、統計などの事実を選択的に編集することによって作成される可能性があります。 記事は、でっち上げられた出来事や人物を使って完全に捏造される可能性もあります。

人工知能の進歩により、特に誤った情報が生成されやすくなっているため、フェイクニュース記事も機械によって生成される可能性があります。

「2020 年の米国選挙中に不正投票はありましたか?」などの質問。 または「気候変動はデマですか?」 入手可能なデータを分析することで事実を確認できます。 これらの質問には正誤で答えることができますが、このような質問には誤った情報が含まれる可能性があります。

誤った情報や偽情報、つまりフェイクニュースは、短期間に多くの人々に悪影響を与える可能性があります。 フェイクニュースの概念はテクノロジーが進歩するずっと前から存在していましたが、ソーシャルメディアが問題を悪化させました。

2018年のTwitter調査によると、偽のニュース記事はボットよりも人間によってリツイートされることが多く、真実の記事よりもリツイートされる可能性が70パーセント高いことが示されました。 同じ研究では、実話が 1,500 人のグループに届くまでに約 6 倍の時間がかかり、実話が 1,000 人を超える人に届くことはめったにありませんが、人気のある偽ニュースは最大 100,000 人に広がる可能性があることがわかりました。

2020年の米国大統領選挙、新型コロナウイルス感染症ワクチン、気候変動はすべて、重大な結果をもたらす誤った情報キャンペーンの対象となっている。 新型コロナウイルス感染症に関する誤った情報による損失は、1 日あたり 5,000 万～3 億米ドルと推定されています。 政治的な誤った情報の代償は、市民の混乱、暴力、さらには民主主義制度に対する国民の信頼の低下につながる可能性があります。

誤った情報の検出は、アルゴリズム、機械学習モデル、人間の組み合わせによって実行できます。 重要な問題は、誤った情報が発見された場合、その拡散を止めることはできないにしても、誰がそれを制御する責任があるのか​​ということです。 実際にネットワークを介した情報の拡散を制御できる立場にあるのはソーシャル メディア企業だけです。

誤った情報を生成する特に単純だが効果的な手段は、ニュース記事を選択的に編集することです。 たとえば、「ウクライナの監督と劇作家が『テロを正当化』した疑いで逮捕、告発された」と考えてみましょう。これは、実際のニュース記事の元の文の「ロシア」を「ウクライナ」に置き換えることによって実現されました。

オンラインの誤った情報を検出し、その成長と拡散を制御するには、多面的なアプローチが必要です。

ソーシャルメディアにおけるコミュニケーションはネットワークとしてモデル化でき、ユーザーはネットワークモデル内の点を形成し、コミュニケーションはそれらの間のリンクを形成します。 投稿のリツイートや「いいね！」は、2 点間のつながりを反映します。 このネットワーク モデルでは、偽情報の拡散者は、真実を拡散するユーザーよりもはるかに密に接続された中心部と周辺部の構造を形成する傾向があります。

私の研究グループは、通信ネットワークから密集した構造を検出するための効率的なアルゴリズムを開発しました。 この情報は、誤った情報キャンペーンの事例を検出するためにさらに分析できます。

これらのアルゴリズムは通信構造のみに依存しているため、誤った情報の事例を確認するには、アルゴリズムと人間によって実行されるコンテンツ分析が必要です。

操作された記事を検出するには、慎重な分析が必要です。 私たちの研究では、テキスト情報と外部の知識ベースを組み合わせて、そのような改ざんを検出するニューラル ネットワーク ベースのアプローチを使用しました。

誤った情報を検出することは戦いの半分にすぎません。その拡散を阻止するには断固とした行動が必要です。 ソーシャルネットワークでの誤った情報の拡散に対抗する戦略には、インターネットプラットフォームによる介入と、偽ニュースキャンペーンを無力化するための対抗キャンペーンの開始の両方が含まれます。

介入には、ユーザーのアカウントを停止するなどのハードな手段もあれば、投稿に不審なラベルを付けるなどのソフトな手段もあります。

アルゴリズムと AI を活用したネットワークは 100% 信頼できるわけではありません。 偽物のアイテムに介入しない場合と同様に、誤って本物のアイテムに介入する場合もコストがかかります。

そのために、私たちは、予測された真実性と予測された人気に基づいて項目に介入するかどうかを自動的に決定するスマートな介入ポリシーを設計しました。

誤った情報キャンペーンの影響を無力化しないにしても最小限に抑えるための対抗キャンペーンを立ち上げるには、真実とフェイクニュースの大きな違いを、それぞれの拡散の速さ、広範さという点で考慮する必要がある。

続きを読む: 地方が開放されるにつれて、私たちが経験していることが機関の教えと異なる場合、信頼が失われます

これらの違いに加えて、ストーリーへの反応はユーザー、トピック、投稿の長さによっても異なります。 私たちのアプローチは、これらすべての要因を考慮し、誤った情報の伝播を効果的に軽減する効果的な対抗キャンペーン戦略を考案します。

生成 AI、特に ChatGPT などの大規模な言語モデルを利用した AI の最近の進歩により、高速かつ大量の記事を作成することがかつてないほど簡単になり、誤った情報を検出し、大規模かつリアルタイムでその拡散に対抗するという課題が生じています。 私たちの現在の研究は、社会に多大な影響を与えるこの進行中の課題に取り組み続けています。