オートメーション・バカ -先端技術がわたしたちにしていること

2015年7月4日読了

正月に購入したまま机に平積みされていたのだが、漸く着手し読了。
原題は、THE GLASS CAGE--Automation and us(ガラスの檻-オートメーションと人間)である。訳の巧拙はさておき、意味は、「知らず知らずコンピュータに判断を支配され蝕まれる人間」である。

著者のニコラス・カーは、自分がよく引用する言葉「IT doesn't matter!」の著者だったことも知った。「ITツール選択とかIT知識の有無ではなく、人間がテクノロジを道具として使いこなせるかどうかが大事なんだ」ということを言いたいときに、IT doesn't matterという言葉は便利だ。

なぜもっと早く読まなかったのだろうというのが、読了直後の感想だ。

最近は、Googleが運転手のいない「自動」車が発表したりするなど、テクノロジの進化は夢をもたらす部分もあるが、あのニュースを見てなんとなく「いやな気持ち」になった自分の心配は、途中でソフトウェアが止まったらどうするのかとか、想定外の事象に対処できるのかというような素朴な疑問を確認しただけだった。しかし、本書は機械だけの問題ではなく、さらに深いところにある人間とコンピュータ・オートメーションとの「関係性」の領域に議論が入っており、率直に言えば、「ぞっとする」内容である。

飛行機のパイロットが複雑な操縦から解放されてオートパイロットの部分が増えていくに連れて、自分が操縦している感覚を喪失していき、本来「緊急時」に対処するためにパイロットが存在するにもかかわらず、その対処能力が失われていく話や、広大な雪原で生活するエスキモーが持っている自分の居場所を特定する能力が、GPSを使うようになって失われていく話など、興味をそそられる。

監査においても同様の事例があり、監査リスクを決定するに当たって、単に提供されたリスクカタログを参照しながら自分で判断してリスクを選択する仕組みを採用している会計士は、会社に対する質問項目を入力していくとその会社のリスクが自動的に選択されるインテリジェントシステムを使っている会計士よりも、明らかに様々なリスクへの理解が深いという研究の引用もあった。

コンピュータを「道具」として人間が使うことと、コンピュータの判断に人間が振り回されることとの対比が、いろいろな事例で議論されていて、それだけでも首肯するところが多い。
オートメーションが苦役としての労働からの解放を意図して導入されるのだが、検索単語が予測表示されたり、行動のガイダンスが提示されたりする仕組みが人間の思考能力を蝕む構造を、色々な事例を紹介しながら議論していく内容だ。

労働からの解放を意図してコンピュータを導入するという点には誰もが反対しないが、中身をよく知って使うのではなく反対に使われるのであれば、あえて導入しないという選択が必要なのだという。単なるコンピュータに対する批判ではなく、「人が考えて動いて働く」ということの意味を考えなさいという啓蒙でもあり、自らが知識労働者と思っている方々には推奨できる書。

著者の考えは最終章の次の段落にあるので、引用しておく。

オートメーションが引き起こす、または悪化させる社会的・経済的問題は、ソフトウェアをさらに投入すれば解決するというものではない。(中略)問題を解決する、あるいは少なくとも軽減したいのであれば、その複雑さのすべてを含めてこれと取り組む必要があるだろう。未来の社会の幸福を確かなものにするには、オートメーションに制限をかけねばなるまい。進歩観を改め、テクノロジーの前進にではなく、社会と個人の反映に重きを置かねばなるまい。これまでは考えることすらできないと、少なくともビジネス界においては見なされてきた考えをも、受け入れねばならないかもしれない---機械よりも人間を優先することを、である。(p291)