Opinion : 人間を信じるか、機械を信じるか (2002/7/15)
 

先日、日航機ニアミス事故の報告書の中で「管制よりも TCAS を信用するように」という勧告がされたそうだ。

「プロとしての管制官のプライド」みたいな話は措いておくとしても、「人間より機械の方が信用できる」という風潮が無条件に広まらないかと、ちょっと心配になった。もちろん、件の報告では「TCAS 限定」という付帯条件が付いているが、この手の付帯条件は、いつのまにか忘れ去られる可能性がある。

すると、「機械を信用するように」という部分だけが一人歩きして、今度はどこかで「機械に依存したために事故になった」なんていうことが起きないかと心配だ。


確かに、人間の処理能力では追いつかず、機械、あるいはコンピュータに任せなければ使い物にならないシステムというのはある。たとえば、新幹線が信号機の確認困難として車内信号 (キャブシグナル) と ATC を導入したのは典型例だ。
また、最近ではイージス・システムがある。同時に数百の目標を追跡し、その中から脅威度の高い目標をより分けてミサイルを指向するなんていう芸当は、人間にやらせたら破綻しそうだ。これは機械任せにせざるを得ない。

ただ、機械というのは「いわれたことしかできない」ということも忘れてはいけない。純粋にメカニカルなものなら、設計された動きしかしないということになるが、最近では機械をそのまま動かすのではなく、コンピュータで制御するのが普通だ。となると、そのコンピュータと組み合わせて使われるソフトウェアの内容によって、その機械が信用できるかどうかが決まる。

もちろん、ソフトウェアを設計・開発する際には、想定されるさまざまなケースを織り込んで、例外的なケースについても処理を正しく分岐させる。
実際に何かプログラムを書いてみると分かるが、本来なすべき処理よりも、本来想定している状況から外れた場合のエラー処理をコーディングする方が面倒だし、本来の処理よりも、エラー処理の分量の方が無視できないものになる。

問題は、ソフトウェアのコーディングの問題もさることながら、当初の設計自体に問題が潜んでいる可能性が捨てきれないという点だ。いわゆる「スペックバグ」という奴だが、想定した仕様そのものに問題があったり、あるいは欠落事項があったりすれば、それに則って作られたソフトウェアも、結果的に欠陥品ということになってしまう。

1950-60 年代に比べると、最近の兵器開発に猛烈な時間と費用がかかるようになった一因が、このソフトウェア開発の問題なのは間違いない。たとえば、AMRAAM の開発難航は有名だ。F-22 ラプターが、「ブロック」単位で段階的に機能をインプリメントするようにしたのも、ソフトウェア開発の確実性を重視したためだろう。
JSF でも、必要とされる膨大なソフトウェアの開発やコード管理が、重要な issue になっているという。(参考 : 次世代戦闘機で試される大規模コード管理 [@IT])

もちろん、機械的制御ではなく、コンピュータを導入して制御する方が、メリットが大きい。自動車の燃料噴射制御など、いまさら機械的制御だけで実現するのは不可能だ。
ただし、ソフトウェアとて人間が作るものだから、ソフトウェアを設計する人間の経験や力量如何によっては、結果として「信頼できない機械」ができてしまう可能性を忘れてはいけないと思う。

また、機械 (と、それを制御するソフトウェア) の挙動が、人間の感覚に合ったものであるかどうか、という点も無視できない。エアバスとボーイングの論争を見ていると、私見だが、どうもエアバスの言い分は往々にして、コンピュータ側の「あるべき論」が優先されているように思えるのだが、どうだろう。

ともあれ、無条件に機械を信頼するのではなくて、まず信頼性や設計の妥当性の検証、そしてデバッグに十分な手間をかけなければ、信頼できる機械ができないのは確かだ。逆説的だが、開発過程で何のトラブルも出ない方が、むしろ怖い。開発過程で問題を出し尽くしてくれた方が、本番で予期せぬ事態に見舞われる可能性が相対的に低下すると思う。


それでも、あくまで「事前に想定したシナリオ」に基づいてソフトウェアや機械の設計がされる以上、予想を越える事態が発生したときには、機械の手に余ることになる。そういうときこそ、人間の出番ではないだろうか。

たとえば、上昇中に貨物室ドアが開き、2 番エンジンが使えなくなった上に操縦系統が壊滅したアメリカン航空の DC-10 は、左右のエンジンの推力を制御することで速度と高度と方位を辛うじてコントロールし、空港に戻ることができた。なんでも、この機の機長はたまたま、訓練中に左右のエンジンだけで機体を操る実験を (シミュレータで) やっていたのだという。
また、有名なエア・カナダの「B767 ガス欠事件」でも、機長がたまたまグライダー操縦経験を持っていたことが、グライダーと化した B767 を地上に降ろすのに貢献したと聞く。

これらの事故は、どちらも「予想を越える事態」といえるが、それでも機体をちゃんと地上に持ち帰ることができたのは、機長の「実験」や「経験」のなせる技。機械任せでは、こうはいかないだろう。
似たような事例として、イスラエル空軍の「片翼 F-15 事件」を挙げてもいいかもしれない。

普段は機械を信頼するとしても、緊急時のバックアップとして人間が術力を磨くことは必要だと思う。同じ理屈で、RMA 化が進んで無人戦闘プラットフォームが幅を利かすようになったからといって、パイロットの腕や一挺のライフルを軽んじてはいけないし、GPS で位置が分かるからといって、地図の読み方を勉強しなくていいということにもならない。他にも、似たような例はいろいろあるハズだ。

ルーティン・ワークは機械に任せるとしても、「イザ」というときに機械にできないことを機転を利かせてやってこそ、万物の霊長たる人間の本領発揮というものではないだろうか。どうだろう ?

Contents
HOME
Works
Diary
PC Diary
Defence News
Opinion
Ski
About


| 記事一覧に戻る |