自動化の皮肉——任せた先で人は何をするのか

ある校正作業の現場を訪ねた。文章の体裁チェックは、いまや多くを道具が担う。担当者の机に向かうと、画面には機械が拾った指摘が並んでいた。だが担当者の手は、その一覧の上で止まっている。「拾ってくれるのはありがたい。でも、拾い損ねを見つけるのが、いちばん難しくなった」。任せた先で、人の仕事はやさしくなっていなかった。

残されたのは、いちばん難しい部分だった

この感覚を、制御工学者リサンヌ・ベインブリッジは1983年の論文「自動化の皮肉」で正面から論じている。自動化は、定型的で容易な部分から先に機械へ移していく。すると人の手元には、自動化しきれなかった例外と、機械の出力を監視し点検する役割が残る。容易な部分が消え、難しい部分が残る。これが第一の皮肉だ。

校正の現場でも同じことが起きていた。明らかな誤字は機械が拾う。だが文脈に依存する微妙な誤り、機械が「正しい」と判断して通してしまった箇所こそ、人が見つけねばならない。しかもそれは、機械が大半を正しく処理した一覧の中に、静かに紛れている。

使わない技能は、いざというとき鈍っている

ベインブリッジが挙げた第二の皮肉は、技能の維持に関わる。日常の作業を機械に任せていると、人はその技能を使う機会を失う。ところが、機械が対処できない例外が起きたとき、求められるのはまさにその、ふだん使っていない技能だ。任せている間に手が鈍り、いざ介入が必要な瞬間に、最も高い練度が要求される。

認知科学者ミカ・エンズリーは、自動化された系で人が状況の流れから外れる「アウト・オブ・ザ・ループ」の問題を指摘した。監視に回った人は、自分で操作していたときほど状況を把握できておらず、介入の判断が遅れる。任せることは、視界の一部を手放すことでもある。

残された役割まで、設計に含める

取材の終わり、担当者は機械の指摘一覧とは別に、自分が重点的に見る箇所のメモを手元に置いていた。機械が強い領域を信頼しつつ、機械が弱い文脈依存の判断に自分の注意を集中させるための工夫だ。任せきるのでも、すべてを抱え込むのでもなく、注意の向け先を意識的に配分していた。

一方で、こうした工夫を個人の努力だけに委ねるのは酷でもある。ベインブリッジの皮肉が示すのは、自動化の設計それ自体が、残された人の役割を務まるものにしておく責任を負う、ということだ。どこまでを機械に任せるかを決めるとき、任せた後に人が何を引き受けるのか、その役割が現実に務まるのかまでを見積もる。境界をどこに引くかという問いは別稿で続ける。委譲の入口の摩擦は朝の編集部でも観察した。