ソーシャルメディアや企業の採用試験など、私たちの暮らしで広く使われている人工知能（AI）。米数学者キャシー・オニール氏は2016年の著書「あなたを支配し、社会を破壊する、AI・ビッグデータの罠（わな）」で、AIのアルゴリズム（計算手法）による偏見や格差の拡大に警鐘を鳴らした。あれから6年たち、状況はどう変わったのか。オニール氏に聞いた。

――そもそも、アルゴリズムとは何ですか。

　大半のアルゴリズムは、予測のためのものだ。過去のパターンにもとづいて、未来を予測しようとしている。たとえば、誰がこの広告をクリックするか、誰がこの製品をオンラインで買うか、誰がこの投稿を友人とシェアするか、誰がこの動画を見るか。これらはすべて予測だ。アルゴリズムは、こうした予測の精度を上げる手助けをする。

　私たち自身も過去の記憶に基づいて、頭の中で予測をしている。過去に着た服の情報に基づいて、今日着ている服は快適だろうかと考える。コンピューターもこれと同じようなことをしている。違いは、コンピューターは我々よりもずっと愚かだということだ。一方で、コンピューターは飽きることがない。誰が広告をクリックするかなどの計算を数え切れない回数こなしてくれる。

　コンピューターは、人間や世界についてのとても小さなモデルを作っているにすぎない。彼らは人間を深いレベルでは理解しておらず、人々についての集められた情報を持っているだけだ。そのため、彼らの推測は当てずっぽうよりはましだが、核心を突くようなものではない。

https://www.asahi.com/articles/ASQCB539NQ7WUHBI014.html