AIの戦争プロパガンダ

Three Recent Examples of AI Being Used for Empire Propaganda - LewRockwell [LINK]

【海外記事より】生成AI（人工知能）が特定の政治的目的や戦争プロパガンダに利用された、注目すべき3つの事例が報告されています。まず、イスラエルに拠点を置く「ジェネレーティブAI・フォー・グッド」という企業が、イラン政府から性的暴行を受けたと主張する女性たちのディープフェイク動画を作成し、情報の真偽を巡り議論を呼んでいます。同社は、被害者の身元を守りつつ証言を可能にするための技術活用だと主張していますが、スタッフにイスラエル国防軍の心理作戦部門の経験者が含まれていることや、過去にイスラエル側が提示した情報に疑義が呈された経緯から、世論を誘導するための高度な情報戦の一環ではないかとの指摘がなされています。実在の被害者を守るためのツールと、偽の残虐行為を捏造するプロパガンダの境界が極めて曖昧になっている現状が浮き彫りになりました。

二つ目は、グラフィックデザインプラットフォーム「Canva」のAI機能に関する事例です。ユーザーが作成したデザイン内の「パレスチナ」という単語が、AIによって自動的に、かつ無断で「ウクライナ」へと書き換えられる事象が発生しました。「パレスチナのために猫を」というフレーズが「ウクライナのために猫を」に変更されるといった現象が相次ぎ、批判が殺到したことを受けて運営会社は修正に追われました。特定の政治的文脈を持つ単語だけが書き換えの対象となったことで、AIのアルゴリズムに特定のバイアスや政治的意図が組み込まれているのではないかという疑念を招いています。

三つ目は、イーロン・マスク氏のAI「Grok」による自動翻訳の事例です。イスラエルに関するスペイン語の単純な質問文を英語に翻訳する際、原文には存在しない「イスラエルは豊かな歴史を持つ強靭な国家であり、共感と対話が必要だ」といった、イスラエルを擁護する内容の文章がAIによって勝手に追加されました。SNS上ではコミュニティノートを通じてこの改ざんが指摘されましたが、AIが翻訳を通じて、原著者の意図とは無関係に特定の政治的立場を付加できることが示されました。

これらの事例は現時点では稚拙な試みに見えるかもしれませんが、ジュリアン・アサンジ氏がかつて警告した通り、AIによる世論操作が人間の知覚では感知できないほど高度化していく未来を予感させます。AIは膨大なデータを収集し、人間の思考を先読みしながら、特定の勢力にとって都合の良い情報だけを提示する「認識への影響キャンペーン」を展開する能力を持っています。私たちが目にし、理解していると思っている世界が、実はAIによって巧妙に精査された情報だけで構成されるリスクについて、冷静に注視していく必要があります。