2024年9月第2週の「硝子瓶」です。

陰謀論とChatGPT

Science誌に発表された論文です。

J・F・ケネディの暗殺、911テロ、イルミナティといった陰謀論を信じている人を、どのように説得して陰謀論から解放するかという問題に、MITのチームが取り組んでいます。この研究では、陰謀論を信じている被験者をChatGPTと対話させて、「大量の反証」にさらすことで、被験者の信念を覆すことが出来るか、というテーマを追っています。

この新しい研究は、ChatGPTのようなLLMが陰謀論への信仰に対抗する手段として有効かもしれないということを明らかにした。これは少し皮肉に聞こえるかもしれない。なぜならLLMは事実を捏造し（“hallucinating”）、デマを広げるといわれているからだ。しかし、陰謀論を信じている人をLLMと会話させると、陰謀論への信仰が比較的大きく減退し、しかもそれが長続きすることが分かった。平均で20%陰謀論を信じなくなり、その効果は少なくとも2か月維持されるというのだ。

今まで科学のデマを減らすために「誰が言っているか」「どんな言い方をしているか」ということに気を取られていたが、この結果は、それよりも反証の量が大事だということを示唆しているのかもしれない。

H. Holden Thorp

ちなみに、この「20%」というのは、被験者が「911はアメリカ政府による陰謀である」というセオリーを「私はこのセオリーを100%信じる」と言っていたのが、ChatGPTと会話したのちに「私はこのセオリーを40%信じる」と答えた場合を「60%の減少」と呼び、それを2190人の陰謀論を信仰する被験者について平均したものが20%だということです。つまり、被験者の主観の自己申告の値です。

911の陰謀論信者とChatGPTの会話 (Science)

本当に「反証の量」なんでしょうか。なんでしょうね。この研究の手続きがちょっとしっくりこないのです。

H. Holden Thorp, "ChatGPT to the rescue?", Science 385, 1143-1143 (2024), (Link)
Thomas H. Costello, Gordon Pennycook, and David G. Rand, "Durably reducing conspiracy beliefs through dialogues with AI", Science 385, eadq1814(2024), (Link)

故人の手書きを「甦らせる」

以前、AIを使って故人とチャットするアイディアについて書きましたが、これは画像生成AIを用いて故人の手書きを複製する話。

最近の事だが、Fluxという画像生成モデルを使ってトレーニングすると、特定の人物の手書きを非常に正確に生成することを、あるアマチュアのAI愛好家が見つけ出した。私もそれを試してみることにした。私は自分の父が残した手書きの日記を使うことにした。その結果に驚いたとともに、倫理的な問題、メディアで見かけるもの（アーティファクト）の信憑性、そして手書きというものの意味について、深く考えさせられることになった。

Benj Edwards

まず、このFluxの「Replicate」という機能が興味深いです。すでにトレーニングされたエンジンに横乗りする形で、自分の用意したデータを使ってトレーニングさせることが出来る。

日本語の環境でもすでに古文書の手書きのくずし文字を判読させることが出来ますから、手書きの文字の生成もかなり近いとは思います。しかし、ここまで手書きをしなくなった現代において、手書き文字がその書き手のアイデンティティとどこまで通底しているのかというのは、微妙な問題かもしれません。手書きのサインがまだ効力をもつ文化圏では切実な問題かもしれませんが、日本だとどうなのでしょうか。

Ars Technica, "My dead father is “writing” me notes again", Benj Edwards, September 12, 2024

Just Watched

シビル・ウォー　アメリカ最後の日（Civil War, 2024）
Directed by Alex Garland
Written by: Alex Garland
Produced by: Andrew Macdonald, Allon Reich, Gregory Goodman
Cinematography by: Rob Hardy
Edited by: Jake Roberts
Music by: Ben Salisbury, Geoff Barrow
Starring: Kirsten Dunst, Wagner Moura, Cailee Spaeny, Stephen McKinley Henderson, Sonoya Mizuno, Nick Offerman
Production companies: DNA Films, IPR.VC
Distributed by: A24

近未来。アメリカは内戦で分断され、戦場となっている。3期目の大統領（アメリカでは大統領は2期までしかつとめられてないと決まっているので、実質的に独裁者）は、ワシントンDCに立てこもり、分離派はもう降伏寸前だと演説する。しかし、実際には分離派が優勢で首都に迫りつつある。フォト・ジャーナリストのリー・スミス（キルスティン・ダンスト）とジョエル（ヴァグネル・モウラ）は、DCに乗り込んで大統領にインタビューしようと決心する。同行するのはベテラン・ジャーナリスト、サミー（スティーブン・マッキンリー・ヘンダーソン）と駆け出しのカメラマン、ジェシー（ケイリー・スピーニー）である。この4人は、内戦で荒廃しきったアメリカの南東部をワシントンに向けて移動していく。

アメリカ人の40%が、近いうちに内戦になるかもしれないと思っているなかで製作され、公開された作品。期待が大きかっただけに、公開後、かなり批判にさらされた作品です。実際に見てみると、批判も、そしてその批判に対するアレックス・ガーランドの意見も、そしてさらに、その意見に対する批判も、どれもわかるような気がします。このテーマを扱ってしまったら、いますでに現実に存在している分断を広げてしまいかねない、という危惧もあったのは間違いないでしょう。だからガーランド監督のとったアプローチを一概に攻めることはできないものの、それでも「これは不満が残るだろうなあ」と感じざるを得ませんでした。

しかし、おそらく全員一致しているのは「ほかのシーンはともかく、ジェシー・プレモンスの登場シーンは圧倒的」ということでしょう。この予告編で、赤いサングラスをしているのがプレモンスです。
『シビル・ウォー　アメリカ最後の日』予告編

シャロウ・フォーカスを多用した撮影も見事ですし、現代のロードムービーとしても圧巻です。むしろ、今、アメリカでロードムービーを撮るとしたら、この異様にねじ曲がった世界設定が必要な気もします。