「Googleは電気羊の夢を見るか？」にY松さんよりコメントいただきました。

昔、IBMのDeepBlueというチェス専用のコンピューターがありましたが、その時も同じような感想をもちました。
（DeepBlueは力技で計算しまくるので、『脳』にはなりえないですが。。。）

・・・ということで、掲げられているURLを拝見いたしました。
http://www.venturenow.tv/founder/yoshimatsu/yoshimatsu_011.html

　DeepBlueがカスパロフ氏を破ったニュースをいまでも鮮明に覚えています。その中でも非常に印象深かったのが第３戦です。
　ある局面で、カスパロフ氏は危機に立っていました。カスパロフ氏もその場にいたすべての人・IBMの開発の人間も、次にDeepbBlueが打つ一手で勝負が決されると思っていたその時、DeepBlueは長考を始め、だれもが想像だにしなかった一手を打ちました。
　結局その試合は「引き分け」になり、勝てるハズだった試合をDeepBlueは取りこぼしたのです。
　IBMもロジックにミスがある可能性を否定できずに、試合後、何億何十億とあるログを数ヶ月にわたって解析した結果、たった一手あの局面でカスパロフ氏が逆転できる可能性があることが分かりました。その瞬間、Deepblueが正しかったことが証明されたのです。
　私が衝撃をうけるのには十分でした。
　なぜなら人が判断したことをコンピューターが否定し、それが正しかったことが証明されたわけですから。
　今回は数ヶ月のログ解析でDeepBlueのロジックを確認することができましたが、これがログ解析に１年・10年・100年かかるようになった場合、正しいか正しくなかったか判断する術がありません。
　近い将来コンピューターの言っていることを正しいか正しくないかではなく、信じるか、信じないかでしかなくなってくる可能性がここにあります。

このエピソードは存じませんでしたが、非常におもしろいですね。
コンピュータが正しいことを言ってるにもかかわらず、人間がその正しさを理解できずに間違った選択をしちゃう、というのは、ある意味「健全」なのかな、という気もします。
人類の歴史は大昔から、「頭のいい人には正しい答えが解ってるのに、アホな人々が数にものを言わせて間違った答えを選択しちゃう」ことの繰り返しだったかと思います。つまり、そういう間違いは、ある意味、まだ「かわいい」。
人間の歴史における大間違いはむしろ、みんなが「〜の言うことだから」と何かを頭から信じてしまうことで発生したことのほうが多いかと思います。
コンピュータについては、80年代くらいまでは、「うちの会社はコンピュータでこれを計算してますので間違い有りません」みたいなセールストークが散見されましたが、パソコンが普及してコンピュータが実はそんな大層なもんじゃないということが一般大衆にも解ってきたせいか、最近、あんまりそういうトークは耳にしませんね。
そんな中で、検索エンジンは、この「盲信」パターンにハマる可能性が非常に高いものの一つではないかと思います。つまり、検索エンジンはその性質上、アルゴリズムは公開されない（公開したら、検索表示順を上げるための対策によって表示順が（今よりさらに）歪められる）ので、「ブラックボックス」であり続けるはずだし、人々は、その「ビッグブラザー」が表示した一番上あたりのリンクをあまり深く考えずにクリックしちゃうわけで。
特にGoogleという企業は、「選民意識が強い集団」になっていくような気がしますので要注意ですが、幸か不幸かGoogleも株式公開したので、公開会社としてのコーポレートガバナンスの仕組みが機能するのだと信じれば、あまりあからさまに「検索結果を操作して、愚衆を正しい方向に導いてやるのじゃ」みたいなことにはならないような気もします。
ただし、検索エンジンは「人間の持つすべての知を操作する道具」であり、これは非常に大変なことなはずなので、必ずや、人間がアルゴリズムを作るだけでなく「コンピュータ自体にアルゴリズムを最適化させよう」ということになっていくはず。そういった「コンピュータが自分でアルゴリズムを最適化する（つまり膨大な量の擬似的な「思考」を始める）」未来に、人間（の取締役会）が、その「ビッグブラザー」の中身を理解して、これをgovernできるんでしょうか、ということですが。
それを考えると夜も眠れませんね。
（ではまた。）