维基百科被篡改四十一分钟，谷歌误报 Sam Altman 死亡

8月12日、GoogleでSam Altmanを検索した人が最初に見たのは、彼の訃報でした。

Sam Altmanは亡くなっていません。何事もありませんでした。

その日、彼はいつも通りOpenAIで働いていました。

出来事は、ある改ざんから始まりました。

Wikipediaには彼の記事があり、Wikipediaは誰でも編集できます。

その日、誰かが彼のページを開き、死亡日時と死亡都市を追加し、死因についてさらに深刻な説明文を加えました。

どの文にも、根拠はありませんでした。

41分後、別の編集者がこの破壊行為に気づき、内容をすべて削除しました。

41分という時間は、1日の1400分以上の時間の中では、とても短い期間です。

しかし、まさにその41分の間に、Googleのナレッジパネルがそれを取得しました。

Googleは裏付けとなる第二の情報源を探さず、「人物の死亡」という事柄に対してより高いハードルを設定もしませんでした。

Googleはこの訃報を、検索結果の最上部に直接表示しました。

そのためその日、多くの人がこの名前を検索すると、まず目にしたのは「彼が死亡した」という情報でした。

情報が広まり、世論の反発が起こってから、Googleはようやくそれを削除しました。

その後に行われたGoogleの対応こそが、この件で本当に考えるべき点です。

Googleは「これは当社社員による手動での修正ではありません」と述べました。

この発言は事実であり、確かにGoogleの従業員がそれに関与していませんでした。

しかし、この言葉を逆さに読むと、意味はこうなります。「書いた人もいないし、確認した人もいない」。

見知らぬ誰かが公開ページに数行入力しただけで、自動システムがそれを事実として扱い、数百万人に配信しました。

ある人物が存命かどうかということは、他のあらゆる場所では痕跡を残すものです。

あのシステムは、単一の情報源だけを見て、それで十分だと判断しました。

問題は、モデルが悪化したことではありません。

問題は、システムがあまりにも簡単に信じてしまうことです。

考えてみてください。あなたが今日信じていることのうち、実際に誰かが検証してくれたものはどれくらいありますか。