アルゴリズムは全能の神なのか？
今日の僕たちの生活にアルゴリズムは欠かせない存在となっています。
例えばGoogleなどの検索エンジンやYOUTUBEのオススメなど、誰でも頻繁に使うようなものから、乳がんの検診や連続殺人犯の逮捕などの専門的で命に直接かかわるようなものまで、あらゆる場面で大きく役に立っています。
さらに2045年にはAIの能力が人間を超す「シンギュラリティ」が起こるとされていて、その勢いはますます加速していくことでしょう。
しかしこのアルゴリズムは本当に信頼に足り得る存在なのでしょうか？
僕らの命や生活、つまり運命を機械に全て託しても大丈夫なのでしょうか？
ということで今回はアルゴリズムの優れている点と、それによってもたらされた凄惨な悲劇、そして今後の正しい付き合い方について述べていこうと思います！
また、この記事はハンナ・フライさんの著作『アルゴリズムの時代 機械が決定する世界をどう生きるか』を元に作成しています。
興味がある方は是非読んでみてください！
リンク
1.人間は一貫性がない
まずアルゴリズムが人間と違っているところは一貫性があることです。
その一例として一貫性が最も求められる司法制度を見てみましょう。
多くの人は、罪を犯した人は法律で機械的に裁かれると思っていますが、実はそうではありません。
処罰を決めるには科学に頼れば済むというわけではなく、それぞれの被告人の背景や動機、そしてなにより裁判官自身の倫理観が影響してきます。
そもそも裁判には上訴という仕組みがあるので、自ら司法制度は完璧ではないと言っているようなものなのです。
それでも裁判官は概ね一貫していて、例えば双子が全く同じ罪を犯したらどちらにも同じ判決が下されると多くの人が信じています。
しかし1970年代にアメリカの研究チームが行った実験結果を見るとその意見は間違っていることに気づくことでしょう。
・18歳の女性の被告は大麻所持で恋人や七人の知り合いとともに逮捕された
・その際、吸引後と吸引前の相当量の大麻が押収されたが、その全てが女性の所持品から発見されたわけではなかった
・女性は初犯かつ、中流階級の家庭で育った真面目な学生で反抗的でもなく、今回の件について言い訳をしなかった
という架空の訴訟をどう扱うか尋ねるというものでした。
そしてその結果は、なんとそれぞれの裁判官の判断は信じられないほどに違っていました。
47人の裁判官のうち29人が無罪とし、それ以外の18人が有罪としました。
そして有罪判決を下した裁判官のうち8人が執行猶予が妥当として、4人は罰金刑、3人は罰金刑と執行猶予、そしてそれ以外の3人は刑務所に送るべきだと判断したのでした。
つまりこれと全く同じ事件が起きたら、被告人が刑務所に送られるか無罪放免になるかは、どの裁判官に当たるかによって変わるということなのです。
しかもこれだけではありません。
このように裁判官によって見解が変わるばかりではなく、ひとりの裁判官が下す判決すらも場合によって変わることが分かっています。
イギリスでも81人の裁判官を対象として41件の架空の被告人を保釈するかどうかを尋ねた実験があります。
しかしこの実験が先ほどと違うのは、41件のうち7件は被告人の名前を変えただけの同じ事件だったことです。
すると大半の裁判官は同じ事件に同じ判決を下せなかったのです。
中にはまるでランダムに決めたのではないかと思うほど、同じ2件の事件に下した判決が大きく変わった裁判官もいたほどでした。
これはこの実験内の裁判官がおかしかったからではなく、他の研究でも同じような結果が出ています。
このようなことが分かってからは、裁判官が自由に判断できる余地を少なくしていくようにシステム化する国が増えていきました。
判決にいたる過程にアルゴリズムを組み入れれば、一貫した結果を下せるというわけです。
2.人は公平な判断も苦手
さらに言うと人は公平な判断も苦手です。
法律では人種、性別、階級が裁判官の下す判断に影響を与えてはいけないことになっています。
しかし現実には差別の痕跡があちこちに見られます。
アメリカで行われた研究によると、白人に比べて黒人の被告人は懲役期間が長くなりやすく、保釈が認められにくいことが分かりました。
更にそれだけではなく、死刑を課される確率も高く、実際に執行される確率も高くなるのです。
また、別の調査によると、同じ罪を犯した場合は女性に比べて男性の方が厳しく罰せられる傾向が高くなり、さらに収益と教育レベルが被告人は刑期が長くなることも分かっています。
しかもこれまた、同一の裁判官であっても状況によって結果が変わることがあるのです。
ある有名な研究によると、多くの裁判官は休憩から戻った直後に保釈を認め、食事休憩に近づくと保釈を認めない場合が多いという結果が出ました。
さらに別の研究では裁判官が立て続けに似たような判決を下すのを避けるという結果も出ています。
つまりあなたが被告人だとして、あなたの裁判の直前に行われた4つの裁判で全て保釈が認められていたら、たったそれだけであなたが保釈される確率は一気に下がるということです。
これは公平性を最重要視される裁判官ですら、他の人と同じく思い込みや好みなどの偏見から逃れられないことの証明でもあります。
3.アルゴリズムは公平に差別する
ではアルゴリズムはどうなのか？
公平な判断ができ、全ての人を平等に判断することができるのか？
それはそうとも言えないかもしれません。
『プロパブリカ』というニュースサイトが、罪を犯した人の再犯リスクを評価するCOMPASというアルゴリズムの精度を2013年～2014年のフロリダ州の被告人7000人以上を対象に調査しました。
その際、同時に黒人と白人の被告の再犯リスク予想に差があるかどうかも調べました。
というのも、そのアルゴリズムの予測のもとになる要素に人種は含まれていないとされていましたが、そうではないことに多くのジャーナリストが気づいていたからでした。
結果としては白人も黒人もミスの割合は変わりませんでした。
ですがミスの種類が違っていたのです。
なんと黒人が被告人の場合、誤って再犯リスクが高いと判断される確率が白人の場合に比べて2倍多かったのです。
逆に白人が被告人の場合は、黒人の場合に比べて2倍も再犯リスクが低いと誤って判断されました。
もちろん、この結果は「偏見によってミスを犯すアルゴリズムを使うとは何事か」と、アメリカやアメリカ以外の国々でも激しい怒りを買いました。
ここで問題なのが、なぜ人種を要素に入れていないはずのアルゴリズムがこのような偏見をしてしまったのかということです。
そもそもその前提がウソだったのでしょうか？
それともアルゴリズムを作る過程でミスをしていたのでしょうか？
答えはどちらでもありません。
アルゴリズムは事前の情報通り、人種で差別したわけではなかったのです。
これはどういうことか理解するためには、偏見のないアルゴリズムとはどういうものかを考えると分かってきます。
多くの人は人種に関係なく、公平かつ正確な予測をするアルゴリズムを望むことでしょう。
また、全員が同じ判断基準で再犯を予測されるべきという意見も多いでしょう。
さらに先ほどのアルゴリズムと違ってミスが起こった際の種類も、人種やその他の条件に関わらず同じ確率であるべきでしょう。
これらはどれも真っ当な意見に思います。
しかしそれでもやはり問題があるのです。
それはある種の公平は数学的に他の公平と両立が不可能なことです。
例えば、通りを歩いている人をランダムに呼び止めてアルゴリズムを使って、その人が殺人を犯すかを予測したとします。
現時点のデータでは殺人を犯す人の96%は男性なので、アルゴリズムが正常に機能すれば、リスクが高いと評価されてしまうのは圧倒的に男性の方が多くなります。
この際のアルゴリズムの的中率が75%だった場合、100人のうちの4%に当たる女性のうちの25%。
つまりたった1人だけが、殺人を犯さないのにも関わらず誤ってリスクが高いという評価をされてしまいます。
一方で男性の場合は96人のうちの25%である、24人がリスクが高いと誤認されてしまうのです。
これが先ほどのアルゴリズムで、黒人の方が白人よりも再犯リスクが高く評価されてしまった理由です。
アフリカ系アメリカ人はこれまで長い間偏見にさらされて不当に扱われてきたことで、その多くが経済的に辛く、犯罪の確率も高くなっています。
その要素が拾われたのです。
これは犯罪やアルゴリズムとは関係なく、単なる数学の必然性です。
結果が偏ってしまうのは現実が偏っているからなのです。
これらの偏ったデータを使いまわすのではなく随時アップデートをしていかなければ、これからもアルゴリズムは正当な理由を持って、偏った結果を出し続けてしまうかもしれません。
4.アルゴリズムに頼り切ると人は弱くなる
それ以外にもアルゴリズムを使うことで起きてしまう弊害もあります。
それはなんでもしてくれるテクノロジーのせいで、能力を伸ばす機会が減ってしまうことです。
2009年5月31日、ブラジルのリオデジャネイロの国際空港からパリへと向かうエールフランス447便の墜落事故はまさにそれが原因で起こってしまった凄惨な事故でした。
その日、操縦席についたのはピエール・セドリック・ボナンという他のパイロットよりも圧倒的に飛行操縦時間が少なく、「わが社の青二才」と呼ばれている人物でした。
なぜこれが許されたのかというと、当日の機種はエアバスA330という離陸と着陸以外は人の手を煩わることなく飛べる最新鋭の民間航空機だったからです。
しかし機体に組み込まれた飛行速度を測るセンサーに着氷し、正しく速度が測れないというトラブルが起きました。
操縦室内の自動操縦装置の警報が鳴り、代わりにパイロットが操縦することになったのです。
ですがそれ自体は実はそれほど珍しい事ではありません。
問題だったのはちょっとした乱気流に入り機体が徐々に右に傾き始めた時、不慣れなボナンが焦っていたことです。
ボナンはサイドスティックを左に倒し、さらに引くことで機体のバランスを戻しながら高度を上げようとしました。
しかし機体が上昇してもボナンはサイドスティックを引き続け、機首が上がりすぎた飛行機は、翼の上を空気が滑らかに流れなくなりました。
そして翼が空気の流れを遮り、飛行機は上昇できずに海に向かって急降下し始めたのです。
コックピットで警報が鳴り響き、休憩中だった機長が慌てて戻ってきました。
飛行機は分速約3000メートルで落下中でしたが、すでに計測器は復活していてかつ、海はまだ遠かったのでかろうじて機体を立て直す時間は残されていました。
スティックを前に倒すことで機首を下げて翼がまた滑らかに空気を切るようにすれば、ボナンと交代要員のもう一人の操縦士で、10~15秒以内には飛行機に乗っている人全員を救うことが出来たはずでした。
しかしパニックを起こしたボナンはサイドスティックを引き続けました。
さらにボナンのせいでこんな事態になっているとは誰も気づいておらず、慌てて話し合った際の「だけど、スティックを引いていますよ！」という彼の返答で、ようやく機長は事態を把握したのでした。
しかし時すでに遅し。
飛行機は3分以上落下していて海に近づきすぎていました。
ボナンは叫びました。
「なんで！墜落する。ありえない」
次の瞬間、飛行機は大西洋に墜落し、乗員乗客合わせて228人全員が亡くなったのでした。
これは人の能力を向上させるための機械を作ると、皮肉にも人の能力は下がっていくということが顕著に表れた事例でした。
この事故をきっかけにエールフランス航空は、自動操縦が解除された時に自ら操縦する訓練を重点的に行うようになりました。
5.人間+機械
人はこれまでの研究で自分たちがいかにいいかげんな存在かを暴いてきました。
それ故に人の判断よりもコンピューターの判断を信じるようになっていきました。
しかしそのアルゴリズムにも偏りやミスや頼ることで起きる弊害があります。
人間は白黒をつける生き物で、このようなことが起きると「こんなポンコツに頼るからダメなんだ」と思ってしまいがちです。
ではどうするのがベストなのでしょうか？
答えはどちらかが優位に立ち過ぎない程度に、人と機械の足りないところを補い合う仲間のような関係を築くことです。
これまでに作られたアルゴリズムは僕たちの生活を確実に豊かにしてくれるもので、これを使わないのはあまりにももったいないことです。
しかしそれを信用しすぎると、努力を怠ったり人の意見を完全に無視してしまいます。
大切なのはアルゴリズムを全能の神のように扱わないことです。
アルゴリズムも人間同様、完璧ではありません。
そのことを頭に入れて、アルゴリズムの言いなりになるのを防ぐのです。
1997年、ディープブルーというコンピューターがチェスの世界チャンピオンであるガルリ・カスパロフを破って全世界に衝撃を与えました。
遂に機械が人を超えたのだと。
しかし、その後もガルリ・カスパロフはコンピューターとの縁を切ろうとはしませんでした。
むしろ「ケンタウロス・チェス」という、アルゴリズムと人間がタッグを組んで勝負する対戦形式を積極的に推し進めたのです。
彼は
「コンピューターの知識を借りてチェスをすれば、予測に長い時間を費やす必要がなく、戦略を練ることに集中できる。
すると、人の創造力は何倍にもなる。」
と述べています。
人とアルゴリズムそれぞれの長所を生かすこと。
これこそが理想の未来であり、これからさらに勢いを増すであろうアルゴリズムの時代では、これまで以上に人が重要な役目を果たすのです。
リンク
何かあれば
までどうぞ！
