スマートという言葉があります。
言葉にはスタイリッシュで、洗練されていて、優秀そうな雰囲気が漂っている。
落ちこぼれ気味の僕的にはちょっといけ好かない言葉です。
でもシステムやテクノロジーが”スマート化”されるのは嫌いじゃない。そのおかげで生活は便利で快適になる。だから世の中がテクノロジーの進歩によって”スマート”になっていくことにはむしろ肯定的でした。
だけど「スマートな悪 技術と暴力」を読んで少しその考えを改めなくてはと思いました。本書では誰もが疑わないスマートの価値について再考し、その影の部分を暴いてくれるからです。
テーマは難しそうに感じるかもしれませんが、わかりにくい単語や引用されている文章の解説が丁寧に説明されているので、置いてけぼりになることはないです。
哲学初心者の自分でも読みやすくて面白い本でした。
「スマートな悪 技術と暴力」の概要
「スマートな悪 技術と暴力」では、”スマート”という概念のネガティブな側面に焦点を当てています。
一般的には”スマート”であるということの価値自体に疑いを持つ人はそういません。
どんなプロダクトでも、どんなシステムでも、”スマートでない”よりも”スマートである”方がよいと信じている人は多いはずです。
そしてテクノロジーの進歩に伴って、誰もが何の疑問も持たないまま社会全体はスマート化を目指しています。
しかし筆者は、そうした社会の”スマート信仰”に疑問を投げかけます。
「スマートさによってもたらされる不都合な事態、回避されるべき事態、一言で表現するなら、『悪』もまた存在しうるのではないか」
本書では”スマートさ”が抱える『悪』に着目し、ハイデガー、アンダース、村上春樹などの思想・考察を手掛かりにしながら”スマート”という概念自体を深く掘り下げています。
超スマート社会を目指す日本
現在の日本では国をあげて「超スマート社会」の実現を目指しています。
というのも政府が策定した第五期科学技術基本計画には、この「超スマート社会」を目指しましょう的な言及があります。
（科学技術基本計画は大雑把に説明すれば、科学技術分野における日本の研究方針です。ちょっとエヴァに登場しそうな計画ですよね。）
この「超スマート社会」の概要を説明すると、僕たちが生きる”現実世界の情報”をICTが管理する”サイバー空間”で処理させることによって、より自動化・自立化した社会のことを言います。
もっと簡単にいえば、集めたデータを機械で効率的に処理させて、人間がラクできるようになる社会ということ。
そして様々なサービスは自動化・効率化されて、待ち時間が短縮されたり、余計な手間が省けたりするようになるわけです。
ここまで説明すると快適でより良い社会になりそうな予感がしますが、世の中そんなうまくいくわけじゃないんですよ。
本書によると、何もかもがスマート化された社会は一歩間違えれば、人に対して牙をむくことがあるというのです。
”悪”が増幅する危険性
日本が目指している未来の姿「超スマート社会」について説明したけど、まだまだ他人事に感じている人も多いと思うので、本書にあった事例を一つ紹介します。
Amazon は人事のプロセスを最適化するために、2014年、 AI によって応募者を自動的に評価し、採用候補者を選出するツールの開発に着手した。開発された AI は、過去に Amazon に送付されてきた10年分の履歴書を分析し、評価されるべき応募者の人材像を学習した。しかし、その結果、その AI は女性よりも男性を高く評価する傾向を持つことが明らかになり、性差別を助長するおそれがあるとして、 Amazon はこのシステムの運用を停止することになった。
AIを用いた人事採用なんて便利そうだけど、やっぱり問題もあるわけですよ。
で、なぜこんなことが起きてしまったのか？
それは過去10年間の応募者の大半が男性で占められていたからです。
そのためAIは、この会社は男性に適した会社であり、これからも男性を採用するべきと判断したのです。
当然、性別の違いによって平等な雇用機会を損なわせる採用は許されるべきではありません。
またここで問題なのは、ＡＩに悪意があって性差別をしたわけではないことです。過去のデータを分析し、効率的に目的を達成しただけなのです。
ここに”超スマート社会”の難点があります。
本書の言葉を借りていうなら、「その現実が不正義によって成り立っているとき、その現実を最適化するソリューションは、むしろ不正義を助長し、その解消をより困難にしてしまう」ことになってしまうのです。
つまり日本が目指している「超スマート社会」では、現実の不正義や間違いが増幅してしまう可能性があるということです。
人間が非人間的に扱われるとき、”社会の歯車”になりさがる
アマゾンの採用事例を別の観点から見れば、人間が非人間的に扱われているという倫理的な問題もあります。
それはスマート化がなされた採用システムにおいて、応募者たちはただの”人材”として扱われたという点です。”人材”という言葉はビジネスシーンで頻繫に使われますが、非人間的な”資源”という含みがあると思います。
アマゾンの事例の何がまずかったかというと、効率化を追求したがために、個人の意思や尊厳、価値観などデータ化できない部分は無視されて、可視化できる部分のみで採用の合否が判断されたことです。
これは見方によっては、”人間らしさ”はないがしろにされ、ただの”会社の部品”として扱われているとも言えます。
つまりはスマート化を追求すれば、人間が”資源”あるいは”社会の歯車”のように扱われてしまう危険性があるということになります。
それを踏まえて考えると、「超スマート社会」が便利で快適な社会というだけでなく、人間に対してある種の暴力を働く可能性が浮き彫りになるのです。
最後に
本書ではアマゾンの事例の他にも、”スマートさ”の追求の裏にはどのような暴力性が潜んでいるかが綴られています。
ナチスドイツの将校・アイヒマンは虐殺が行われることを知っていながら、ユダヤ人を強制収容所に送るための移送計画をなぜ企てることができたのか？
スマート化を求めた都市システムに”人間”が取り込まれたとき、なぜ存在するはずの満員電車内の暴力は覆い隠されてしまうのか？
スマートという概念自体を考察していくと、それらに対する一つの解釈が生まれます。
そして来たる「超スマート社会」で、どのような考えで生きるべきか、そのヒントも得られると思います。
現代を生きる人なら誰にでも関係のある話題なので、ぜひ読んでみてもらいたいです。