書評

先端技術のリスクとは!?『オートメーション・バカ』

先端技術のリスクとは!?『オートメーション・バカ』

一見、ふざけたタイトルに思える『オートメーション・バカ』(青土社、2014年)は、あらゆるものを自動化し生産性を上げる最先端技術に潜むリスクについての本です。
著者のニコラス・G・カーは『クラウド化する世界』(翔泳社)で日本にクラウドという言葉を浸透させた立役者の一人でもあります。

『オートメーション・バカ』では「自動運転車」「オート・パイロット(航空機の自動操縦)」「医療事務ソフトウェア」「GPS」「キーボード文字入力のスペルチェック機能」などを例に、従事している仕事や作業のオートメーション(自動)化が人間の能力ややりがいを低下させ、重大な事故などにつながることについて書かれています。

また、最終章ではテクノロジーと人間の労働との調和について著者のメッセージが書かれています。

●自動運転車は人間から運転能力・注意力を奪うか

グーグル社の抱える自動運転車の一団は、いまや百万マイル近くの走行を成し遂げており、大きな事故は一度だけである。

※100万マイルは、約160万km。日本の鹿児島南端から北海道北端まで約2,000km。

上記の1件の事故は「グーグル・カーを人間がマニュアル運転をしていたときに」起こったもので、事実上、グーグル社の自動運転は無事故で走行を続けていました(2014年時点)。
しかもテスト用道路などではなく、一般道路です。
グーグル・カーが自動運転状態で初めて事故を起したのは2016年のことです。

自動運転車の実用化に向けた開発が進んでいます。
自動運転車は「レーザー距離測定器」「レーダー・ソナー送信機」「動作検知器」「ビデオカメラ」「GPS」などを搭載・連携させて道路を通行します。
上記のように、技術的には実用性はかなり高まっています。
しかも既に述べた事故の少なさをみても、人間が運転するよりも安全に思えます。

むしろ課題は、社会や法律とどう折り合いをつけるかです。
全く人が運転していない自動運転車が事故を起した場合、誰に責任があるのでしょうか「車の所有者」「自動運転ソフトウェア企業」「そのソフトを採用・搭載した自動車メーカー」など、事故の関係者は複雑になります。

この本の刊行後ですが。
自動運転車により、人間の運転にマイナスの影響を与えた事故がありました。
2018年、ウーバー社の自動運転車が死亡事故を起しました。
この際、運転席にいた人物はスマートフォンで動画配信を閲覧中だったことが分かっています。
運転のオートメーションは、運転席の人間から運転能力や注意力を完全に奪っていたのです。

●なぜ人間の飛行機操縦士は、事故回避と逆の操縦をしたのか?

現在の民間航空機の例にもれず、当機のパイロットも、一時間ほどのフライトのあいだ、やるべきことはあまりなかった。

現在の航空機は飛行中のほとんどのことをオート・パイロットが担っています。
しかし、オート・パイロットは万能ではありません。
オート・パイロットで対応できない事態のために、操縦室には必ず人間のパイロットがいます。

2009年の嵐の中、ニューヨーク州へ向かっていたある航空機は着陸態勢に入りましたが、警報装置は、航空機が揚力(ようりょく)を失って失速する恐れがあることを知らせました。
そしてプログラムに従ってオート・パイロットは解除されます。
人間の出番です。
しかし、機長はパイロットがやるべきことと正反対のことを行いました、操縦桿を押し倒すべきなのに引き上げ、失速回避装置が介入して操縦桿を押し倒そうとしましたが、機長はなおも引き上げようとしました。
結果、墜落します。

さらに同様の事故が数か月後に起こりました。
航空機は嵐に巻き込まれオート・パイロット機能は解除されました。
ボナンという副操縦士は操縦桿を押し倒すべきところ引き上げ、警報が鳴っても引き続けました。
本書では「ボナンが操縦桿から手を放しさえすれば、A330は期待を立て直していただろう。だが彼はそうしなかった。」と記述されています。
この調査報告書には副操縦士は「状況を認知した上でコントロールすることの、全面的喪失」状態にあったとしています。

これらの操縦士は十分な訓練と経験がありました。
しかしオート・パイロットに頼ることに慣れすぎていたため、訓練では正しい操縦ができても、緊急時には全く能力を発揮できなかったのです。

●人間と労働

「われわれが大西洋横断飛行に成功したのだ。わたしでも、飛行機でもない」

上記の引用は1927年に大西洋横断飛行に成功したチャールズ・リンドバーグの言葉です。この言葉には人間と機械の「協働」が表現されています。
人間は技術を進化させ、より効率的に物事を行ってきました。
しかしこれまでと、これからでは状況が大きく異なる可能性があります。

これまでは「人間が機械を使って仕事をする時代」でした。
しかしこれからは「人間が不要な時代」「人間が機械に使われる時代」になるかもしれません。
だとしても、これまでの事故の例を見れば分かるように、人間の判断力や能力の必要性がゼロになることはありません。
しかし、それを発揮する機会は、オートメーション・テクノロジーが発達すればするほど減っていくでしょう。
ここに1つの課題があります。

本書では「労働のパラドクス」と呼ばれる興味深い実験が紹介されています。
100名の労働者を集め、グループ分けして実験した結果、労働中のほうが満足感や幸福感が高まり、自由時間のほうが退屈し、不安を感じる傾向にあったのです。
しかし、そのグループの人々は労働が好きなわけではなく、労働中は「休みたい」と考えていることが分かりました。

まとめ

人間は労働が好きなわけではありませんが「暇」はもっと嫌いなようです。
何もすることがない自動運転車やオート・パイロットは「暇」を作ったことにより、運転手や操縦士が本来発揮すべき能力を喪失させたと言えるでしょう。

これからの機械との協働を考えるためにオススメの1冊です。